首页站长资讯首个生成式AI安全指导性文件发布 包含31项安全要求
11111

首个生成式AI安全指导性文件发布 包含31项安全要求

站长网2023-10-13 09:47:390

要点:

1. 生成式AI安全新规发布,包含31项安全要求,生成式AI服务提供者需遵循这些要求,方可“持证上岗”。

2. 安全要求涵盖语料安全、模型安全、安全措施、安全评估等四大方面,具体包括语料来源黑名单、模型使用规范、服务透明度等多个关键要求。

3. 不同场景的生成式AI服务需采取不同的保护措施,包括关键信息基础设施、未成年人使用等,以确保生成内容质量和安全性。

最新发布的生成式AI安全规定明确了31项安全要求,只有符合这些要求的生成式AI服务提供者才能“持证上岗”。这一规范涵盖了语料安全、模型安全、安全措施和安全评估等四大关键领域。

对于语料安全,要求提供者建立语料来源黑名单,不使用来自黑名单的数据进行训练。如果某一来源的语料中包含违法不良信息超过5%,则该来源会被列入黑名单。此外,规定了多元化的语料来源,包括不同语言和不同类型的语料,以及要求语料来源可追溯。

在模型安全方面,提供者不得使用未备案的基础模型进行研发,必须公开第三方基础模型的使用情况。生成内容要符合科学常识,不得包含错误信息。

安全措施方面,根据不同场景和使用者需求,规定了不同的保护措施,特别是在关键信息基础设施和未成年人使用的情况下。此外,要求设置监看人员以提高生成内容质量。

安全评估方面提供了具体的评估方法,包括语料安全评估、生成内容安全评估、内容拒答评估等。要求提供者使用人工抽检,确保语料安全。

总的来说,这一生成式AI安全规定为生成式AI服务提供者提供了具体的安全标准,以确保其生成内容的质量和安全性。这对于保护用户权益和社会安全具有重要意义。

0000
评论列表
共(0)条