Instagram将标记人工智能生成的内容

本文要点:

1. Instagram 将为由 ChatGPT 等人工智能生成的社交媒体帖子添加 "AI 生成内容" 标签。

2. 这一举措是 Meta 和其他六家大型科技公司在白宫宣布自愿承诺确保 AI 安全后的一项重要举措。

3. 专家表示，这将有助于帮助人们区分聊天机器人和真实内容，为减轻 AI 带来的威胁迈出关键一步。

Instagram 似乎正在推出一个新功能，将标记由 ChatGPT 和其他人工智能生成的社交媒体帖子为 "AI 生成内容"。

应用研究员 Alessandro Paluzzi最近发现了该功能。这一举措是 Meta 和其他六家大型科技公司在白宫会议上承诺确保 AI 安全后的一部分。专家认为，这一举措对于使互联网更安全是一个重要的步骤。

近年来，深度伪造和由 AI 生成的媒体已经成为国内讨论的话题，这收到了好莱坞 SAG-AFTRA 编剧罢工、拜登政府制定 AI 安全政策以及 AI 在在线和现实犯罪中的日益严重的影响。

近期，FBI 发布了一个警报，警告称一伙敲诈者使用伪造的社交媒体帖子欺骗儿童和成年人。此外，今年早些时候，一名网络犯罪分子试图通过深度伪造的呼救声音从亚利桑那州的一名女子那里敲诈100万美元，声称绑架了她的女儿。

目前，安全工具对于检测由 AI 生成的内容有相当高的成功率，但研究人员警告称，网络犯罪分子正在变得越来越擅长逃避这些保护。

因此，帮助普通人区分聊天机器人和真实内容，辨别真假，是减轻 AI 带来的威胁的关键一步。专家认为，这一举措将帮助人们更好地理解和应对 AI 生成内容的挑战，并促使更多的公司采取行动来确保 AI 的安全和透明度。