偏见问题！WhatsApp AI 贴纸生成器生成巴勒斯坦儿童持枪图

划重点:

- Meta 的 WhatsApp 使用 AI 提示生成贴纸，但 AI 模型有问题，当输入 “巴勒斯坦” 等词语时会生成持枪的儿童图像。

- 据报道，当输入 “以色列” 等词语时，并没有出现这样的图像。

- Meta 之前也在其 AI 模型中遇到了偏见问题，如 Instagram 的自动翻译功能将 “恐怖分子” 一词插入阿拉伯文用户简介中。

Meta 的 WhatsApp 允许用户使用 AI 提示生成贴纸。据《卫报》周五报道，当使用 “巴勒斯坦” 等词语作为提示时，AI 模型有时会生成持枪的儿童图像。与此同时，据该报道称，当使用 “以色列” 等词语作为提示时，并没有出现这样的图像。

一个月前，Meta 的 AI 贴纸生成器开始推出，但往往会生成不适当的暴力或粗俗图像，其中包括儿童士兵。根据文章，一位不愿透露姓名的消息人士表示，公司的一些员工已经标记并升级了与以色列战争相关的问题。

Meta 发言人凯文・麦卡利斯特（Kevin McAlister）通过电子邮件回应，公司正在解决这个问题，并表示 Meta 将 “不断改进这些功能，随着更多人分享他们的反馈意见”。

Meta 在其 AI 模型中还遇到了其他偏见问题，比如 Instagram 的自动翻译功能会在用阿拉伯文编写的用户简介中插入 “恐怖分子” 一词，这与 Facebook 的误翻译相似，导致一名巴勒斯坦人在2017年被以色列逮捕。