生成式AI风险或促使日本政府创建第三方认证系统

🔍 划重点:

1. 政府将考虑采取新措施来减轻生成式人工智能的风险，以鼓励技术开发者和服务提供商遵守指导原则。

2. 核心措施可能包括建立第三方认证系统和加强对被视为高风险的行业和组织的监管。

3. 日本正领导广岛AI进程，该进程旨在讨论涉及生成式AI的挑战，日本还计划研究海外案例，并在本财政年度末制定具体措施来降低生成式AI风险。

为鼓励生成式人工智能（AI）技术的开发者和服务提供商遵守指导原则，日本政府将考虑采取新措施来减轻生成式AI的风险。这些措施可能包括建立第三方认证系统和加强对被视为高风险的行业和组织的监管。

图源备注：图片由AI生成，图片授权服务商Midjourney

此举发生在七国集团（G7）先进经济体就生成式AI开发者的国际行为准则达成一致之后。政府于周二在由AI专家和政府官员组成的AI战略委员会上提出了如何减少基于AI的风险的建议。

为了确保开发者采取减轻风险的措施并公开信息以提高透明度，该委员会预计将考虑进行外部审计并建立第三方认证系统。政府还计划定期举行政府官员与AI开发者之间的会议，以交流意见。

对于生成式AI服务提供商，消息来源称有八个领域被列为高风险的示例，包括政府、金融、能源、物流、交通、电信、广播和医疗。对于这些领域，政府预计将通过制定额外的规则来协调加强对服务提供商的监管。

对于低风险领域，政府计划要求服务提供商通过制定运营AI系统的治理政策来公开信息。

政府计划研究海外案例，并计划在本财政年度末前提出具体措施，以降低生成式AI的风险。

作为今年的G7主席国，日本正在领导广岛AI进程，这是一个旨在讨论生成式AI挑战的框架。在十月底，G7达成了一个国际行为准则，呼吁采取适当行动来应对基于AI的风险，以及开发和引入数字水印技术等方法来帮助用户识别AI生成式的内容。