梵蒂冈发布自己的人工智能道德手册

梵蒂冈也加入了人工智能的热潮。罗马教廷发布了一本教皇定义的人工智能伦理为基础的手册。

该指南是弗朗西斯和圣克拉拉大学马库拉应用伦理中心合作的结果。他们共同建立了一个名为“技术、伦理与文化研究所”（ITEC）的新组织。 ITEC的第一个项目是一本名为《颠覆性技术时代的伦理》的手册，旨在指导科技行业应对人工智能、机器学习、加密、追踪等领域的伦理问题。

根据圣塞门堂区主任、洛斯阿尔托斯的圣西门教堂神父兼ITEC顾问布伦丹·麦奎尔的说法，本次倡议是教会长期兴趣的集大成之作。他认为教廷具有一个独特的能力，可以吸引各个关键角色参与其中。

布伦丹神父表示:“教皇一直对世界和人类有着广大的视野，并且他认为科技是一件好事。但随着我们发展，也到了问出更深层次的问题的时候。”他说:“硅谷的科技高管多年来一直找我寻求帮助，他们表示，‘你需要帮助我们，未来有很多问题我们还没有准备好。’这个想法是利用教廷的召集能力将全球的高管聚集在一起。”

许多倡导者、学者和观察家将精力集中在向监管机构提出诉求上，ITEC手册采取了不同的方法。ITEC希望为科技公司内部已经在思考人工智能最困难问题的人们提供指导，而不仅仅是等待政府为行业制定规则。

“在一些方面，已经形成了与公司相一致的原则，如问责制和透明度，”马克拉中心的高级领导伦理总监安·斯基特说道:“这很好，但关于如何真正去做和如何将这些标准应用到技术的设计和应用中，人们对此并没有太多共识。”

总体而言，该手册主张从一开始就在技术和开发技术的公司中建立围绕一系列原则的价值观，而不是事后如何解决问题。手册中为公司制定了一个基本原则:“确保我们的行动符合人类和环境的共同利益。”这个原则非常广义和模糊，但ITEC手册的组织结构将广泛共识的大概念分解为一系列具体的建议和可行的步骤。

这个大的基本原则分为七个指导方针，例如“尊重人的尊严和权利”，“促进透明度和可解释性”。这七个指导方针又分解为46个具体的可操作步骤，包括定义、示例和可操作的步骤。

例如，“尊重人的尊严和权利”这个原则包括关注“隐私和保密”。为了将这个想法付诸实践，手册呼吁承诺“不收集非必要数据的数据”，并表示“收集的数据应以最大程度保护隐私和保密的方式存储”。它还强调了公司应该考虑对医疗和金融数据进行特定的保护，并关注对用户负责，而不仅仅是法律要求。

梵蒂冈并不是唯一一个对人工智能和技术未来提出重大问题的组织。就在 OpenAI 向全球发布 ChatGPT 几个月后，该公司首席执行官 Sam Altman 就已经与拜登总统会面，并就如何监管人工智能向国会作证。

对科技行业来说，幸运的是，梵蒂冈在回答有关我们如何考虑世界末日的问题上经验丰富。布伦丹神父表示，人工智能可能带来的潜在威胁是严重的，但近期的人工智能问题同样值得关注。不过，他并不清楚教皇是否使用过 ChatGPT。

布伦丹神父表示:“我们绝对需要重要的约束措施，各国和政府将会逐步实施它们。”他说:“但是这本书在设计和消费者应用方面起到重要的推动作用。这就是我们试图让公司提前满足我们需要的标准的地方。”