加拿大政府计划就生成式AI“自愿行为准则”征求公众意见

本文概要:

1. 加拿大政府计划与公众商讨关于生成型人工智能公司制定 “自愿性准则” 的事宜。

2. 准则旨在确保参与企业采取安全措施、测试协议和信息披露实践。

3. 准则的制定是在 AI 公司、学术界和公民社会的协商下进行的。

据外媒报道，加拿大政府计划就为生成人工智能公司制定“自愿行为准则”征求公众意见。

新一代人工智能系统的自愿行为准则将通过加拿大创新、科学和经济发展部（ISED）制定，旨在确保参与公司采取安全措施、测试协议和披露实践。

最初由The Logic报道，内部文件概述了自愿行为准则如何让公司建立对其系统的信任并顺利过渡以遵守即将出台的监管框架。这一举措将作为实施具有约束力的法规之前的第一步。该行为准则正在与人工智能公司、学术界和民间社会协商制定，以确保其有效性和全面性。

该准则鼓励公司确保其人工智能系统不会从事可能伤害用户的活动，例如冒充或提供不当建议。同时鼓励企业在代表性数据集上训练人工智能系统，以最大限度地减少有偏见的输出。

该准则还强调了对人工智能生成的内容进行清晰标记的重要性，以避免与人类创建的内容混淆，并使用户能够做出明智的决定。此外，准侧鼓励公司披露有关其人工智能系统内部运作的关键信息，以促进用户之间的信任和理解。

谷歌、微软和亚马逊等大型科技公司对政府的计划做出了积极回应，表示他们将参与咨询过程。

加拿大政府在人工智能领域的努力不仅限于自愿护栏。政府还提出了立法，包括《人工智能和数据法案》（AIDA），其中规定了“高影响力系统”的要求，预计将在该法案成为法律至少两年后生效。