OpenAI 争论何时发布其人工智能生成的图像检测器

OpenAI最近透露，他们一直在"广泛讨论和争论"何时发布一种可以检测图像是否由其生成AI艺术模型DALL-E3创建的工具。

据OpenAI研究员Sandhini Agarwal透露，虽然该分类器工具的准确性“非常好”，但它还未达到公司的质量标准。鉴于该工具对确定照片的来源具有重大影响，例如一件作品是否为艺术家所绘或是否具有误导性，因此推出一个不太可靠的工具会是一个问题。

尽管OpenAI的分类器似乎准确度极高，检测未修改的照片是否由DALL-E3生成的可靠性达到99%，但公司不愿透露准确的指标。OpenAI还在讨论人工智能生成图像的本质哲学问题。显然，DALL-E3从零开始生成的艺术作品符合要求，但是经过多轮编辑和处理的图像又如何分类呢?这一问题尚不明确。

OpenAI可能也考虑到其先前推出的公共文本分类器工具所受到的广泛批评。该公司最后取消了该工具，理由是“准确度低”。

尽管生成媒体的水印和检测日益受到重视，但该领域还没有形成单一的标准。即使确实形成，也无法保证水印和检测器不会被攻破。OpenAI正小心平衡推出一个可能不够可靠的工具与公众获取检测深度伪造的需求。