心理医生使用AI制作儿童深度伪造色情图像被判入狱

划重点:

🔍 北卡罗来纳州的一名儿童精神病学家被判入狱，因为他使用人工智能软件制作儿童深度伪造色情图像。

🔍 该儿童精神病学家被控使用网络的人工智能软件，对患者进行秘密录音并制作非法图像和视频。

🔍 检察官表示，这种利用技术伤害儿童的行为是邪恶的，该儿童精神病学家被判处40年监禁和30年监管释放。

一位儿童精神病学家在北卡罗来纳州因制作、拥有和运输儿童性虐待材料（CSAM）而被判入狱。该精神病学家名叫戴维・塔图姆(David Tatum)，41岁。他被陪审团判定有罪，被判处40年监禁和30年监管释放，并被勒令支付99，000美元赔偿金。

作为一名儿童精神病学家，塔图姆应该明白性剥削对受害儿童的长期影响。然而，他却从事了利用受害者的秘密录音来制作非法图像和视频的邪恶行为。检察官德纳・J・金在一份声明中表示，塔图姆滥用人工智能的方式对儿童造成了伤害。她还补充说，她的办公室致力于起诉那些利用技术伤害儿童的人。

尽管起诉书没有提供有关所使用的人工智能软件的详细信息，但法庭文件显示，塔图姆除了拥有、制作和传输未成年人的露骨色情材料外，还在深度虚假网站上查看了生成的儿童图像。政府引用的审判证据包括一段秘密录制的未成年人脱衣和洗澡的录像，以及其他儿童参与性行为的视频。

检察官指出，塔图姆使用人工智能以数字方式改变未成年人的着装图像，使他们变得露骨。具体而言，审判证据表明塔图姆使用基于网络的人工智能应用程序将穿着未成年人的图像更改为儿童色情内容。

近年来，使用人工智能模型生成儿童性虐待材料等问题备受关注。一些立法者、民间社会团体和销售人工智能服务的公司都对此表示了严重关注。OpenAI 首席执行官 Sam Altman 在今年早些时候的美国参议院小组委员会听证会上表示，他们的 GPT-4模型相比于 GPT-3.5，对禁止内容请求的响应可能降低了82%。他们还使用强大的 “结合人工和自动审查流程来监控滥用情况”。OpenAI 还依赖于 Thorn 的 Safer 服务来发现、阻止和报告儿童性虐待材料。

然而，对于已经创建的儿童性虐待材料进行检测可能会降低在线安全性，因为这需要进行网络监控。一份调查组织 Balkan Insight 最近的报告称，像 Thorn 这样的组织一直支持儿童性虐待材料检测立法，要求强制执行在线内容扫描。这部分是因为他们提供了这项服务。