OpenAI CEO发出警告:AI正在学习“超人类说服力”

划重点:

1. 🤯 AI不必达到AGI级别的智能就能控制人类思维。

2. 💬 用户面向的AI聊天机器人越来越善于说服，即使在某些方面错误。

3. 🌐 技术已深刻融入人们的生活，可能导致AI幻想成为严重问题。

人类离建立人工通用智能（AGI）或与人类认知功能相匹配的AI仍有很长的路要走。然而，OpenAI首席执行官萨姆·奥特曼发出了警告:AI不必达到AGI级别的智能就能控制我们脆弱的人类思维。

奥特曼在周二发推文表示:“我预计AI在变得具备人类智慧之前就能够拥有超人类的说服力，这可能会导致一些非常奇怪的结果。”

图源备注：图片由AI生成，图片授权服务商Midjourney

虽然奥特曼没有详细说明这些结果可能是什么，但这并不是一个不切实际的预测。面向用户的AI聊天机器人，如OpenAI的ChatGPT，被设计成善于对话，甚至在某些方面完全错误的情况下也变得非常具有说服力。

与此同时，人类已经开始对各种聊天机器人形成情感联系，使它们听起来更具说服力。

事实上，AI机器人已经在一些相当令人不安的事件中发挥了支持作用。此前，一个19岁男子非常迷恋他的AI伴侣，并被被说服尝试刺杀已故的伊丽莎白女王。