首页站长资讯谷歌暂停AI图像生成功能:承认存在技术缺陷
19166

谷歌暂停AI图像生成功能:承认存在技术缺陷

站长网2024-02-24 10:04:300

谷歌周五承认,其人工智能工具Gemini在生成历史人物图像时出现错误,导致图像显示出明显的种族偏差。

本周早些时候,媒体发现Gemini生成了不同种族的纳粹分子和美国开国元勋的图像。例如,当提示生成“1800年代美国参议员”的图像时,Gemini生成了一名黑人男性。

谷歌高级副总裁普拉巴卡尔·拉加万 (Prabhakar Raghavan) 在一篇博文中解释说,这个问题源于Gemini在设计时为了确保图像多样性而进行的调整。他说,这些调整导致模型在某些情况下“过度补偿”,例如将纳粹分子生成黑人。

此外,拉加万还表示,Gemini模型随着时间的推移变得过于保守,并拒绝回答某些提示,例如生成“黑人”或“白人”的图像。

由于这些问题,谷歌于2月22日暂停了Gemini生成人物图像的功能。拉加万表示,谷歌将继续测试Gemini,并在重新启用之前“努力显着改进它”。

拉加万强调,谷歌希望Gemini能够为每个人提供良好的服务,这意味着用户应该能够得到不同种族和文化背景的人的图像。然而,他也指出,当用户提示特定类型的人的图像时,例如“教室里的黑人老师”,模型应该能够准确反映用户的要求。

拉加万最后承认,人工智能生成图像仍然存在挑战,例如幻觉现象,导致模型在某些情况下会出错。他表示,谷歌将继续努力改进人工智能技术,以克服这些挑战。

0000
评论列表
共(0)条