拜登正式签署行政命令以降低人工智能对国家和公众的潜在风险

站长之家(ChinaZ.com) 10 月 31 日消息:美国总统拜登于周一正式签署了一项新的行政命令，旨在降低人工智能（AI）对消费者、工人、少数群体和国家安全带来的风险。

该命令要求 AI 系统的开发者，在其产品对美国的国家安全、经济、公共健康或安全构成风险时，需按照《国防生产法》的要求，将安全测试结果与美国政府共享，然后才能向公众发布。

拜登在白宫签署的这项命令，还要求相关机构为这些测试制定标准，并解决与之相关的化学、生物、放射性、核及网络安全风险。

「为了实现 AI 的承诺并避免风险，我们需要对这项技术进行监管，」拜登说，「如果落入坏人的手中，AI 可能会使黑客更容易利用我们社会运行软件中的漏洞。」

这一举措是该政府围绕 AI 设定参数的最新步骤，目的是在 AI 快速增长能力和受欢迎度的环境中，对其进行一定程度的监管。此命令得到了行业和贸易团体的不同反应。

Tusk Ventures 的首席执行官 Bradley Tusk 欢迎了这个举措，但他表示，科技公司可能会因担忧其专有数据被提供给竞争对手而犹豫是否与政府分享数据。

他说：「如果没有真正的执行机制，这个概念很好，但是遵守程度可能会非常有限。」

美国国家贸易协会 NetChoice，包括主要的科技平台，将该命令描述为一个「人工智能繁文缛节愿望清单」，它将「扼杀新公司和竞争者进入市场，并显著扩大联邦政府对美国创新的权力。」

新的命令超越了今年早些时候诸如 OpenAI、Alphabet 和 Meta 等 AI 公司所做的自愿承诺，它们承诺为 AI 生成的内容添加水印以使技术更安全。

作为命令的一部分，美国商务部将「为内容认证和水印开发指南」，以标记由 AI 生成的项目，确保政府通信的清晰度。

该命令还规定了知识产权监管机构和联邦执法机构应如何处理 AI 训练中使用受版权保护的作品的问题，包括呼吁「评估 AI 系统是否违反了知识产权保护法」。

多位著名的作家和视觉艺术家已经提起了多起诉讼，指控科技公司盗窃他们的作品以训练生成型 AI 系统。而科技公司辩称，他们使用的内容受到美国版权法的公平使用原则的保护。

根据 G7 文件，七国集团工业国家将在周一达成一项行为准则，以指导公司开发高级人工智能系统。

「事实上，美国已经远远落后于欧洲，」Tech policy think tank Future of Life Institute 的总裁 Max Tegmark 说。「立法者，包括国会议员，需要通过制定具有实际效力的法律来应对威胁和保护进步，以保护公民的利益，」他在一份声明中说。

一位高级政府官员在周日向记者介绍情况时反驳了欧洲在监管 AI 方面更为积极的批评，并表示立法行动也是必要的。拜登在周一呼吁国会采取行动，尤其是通过更好地保护个人数据。

美国参议院多数党领袖 Chuck Schumer 表示，他希望在几个月内准备好 AI 立法。

美国官员警告说，AI 可能会增加偏见和侵犯公民权利的风险，拜登的行政命令试图通过要求对房东、联邦福利计划和联邦承包商提供指导，「以防止 AI 算法被用来加剧歧视」，来解决这个问题。

该命令还要求制定「最佳实践」，以解决 AI 可能对工人造成的伤害，包括工作流失，并要求就劳动力市场影响提交报告。