首页站长资讯OpenAI 悄然关闭其人工智能生成内容检测工具:准确性不佳
6000

OpenAI 悄然关闭其人工智能生成内容检测工具:准确性不佳

站长网2023-07-25 16:18:400

今年一月份,人工智能巨头 OpenAI 宣布推出一款工具,可以通过检测一段内容是否是使用其自己的 ChatGPT 等生成式 AI 工具创建的。

然而,半年后,这个工具已经被宣告死亡,因为它无法完成既定的任务。ChatGPT 的创造者 OpenAI 上周悄悄停用了其 AI 检测工具 AI Classifier,原因是「其准确率较低」,OpenAI 在首次宣布该工具的博客文章中添加了这一解释。链接到 OpenAI 的 AI Classifier 的页面也不再可用。

OpenAI 写道:「我们正在努力吸纳反馈意见,并且目前正在研究更有效的文本来源技术,我们承诺开发和部署机制,使用户能够了解音频或视觉内容是否为 AI 生成。」

每天都有新的工具上线,允许使用越来越复杂的人工智能,这已经创造了一个 AI 检测器的产业。

OpenAI 表示,AI Classifier 的局限性包括在少于 1000 个字符的文本上不可靠,错误地将人类写的文本标记为 AI 写作,以及基于神经网络的分类器在其训练数据之外表现不佳。

一个对准确检测 AI 敏感的领域是教育。自从 ChatGPT 在 11 月发布以来,教育工作者一直在警告学生不得使用这个聊天机器人来写作文。

OpenAI 表示:「我们认识到识别 AI 写作文本一直是教育界的重要讨论点,同样重要的是认识到课堂上 AI 生成文本分类器的限制和影响。」公司将在不断拓展覆盖范围的同时,继续吸取教训。

0000
评论列表
共(0)条