国外一位体育老师涉嫌使用人工智能克隆校长声音进行报复

在马里兰州巴尔的摩县，一名体育老师兼前体育主任达中·达里恩（Dazhon Darien）因涉嫌使用人工智能语音克隆服务陷害派克斯维尔高中校长埃里克·艾斯沃特而被捕。

据报道，一月份在社交媒体上流传的一段录音，声称是艾斯沃特发表种族主义和反犹太主义言论，但专家认为这段录音是假的。警方追查后发现，这段录音来自达里恩，他涉嫌访问学校计算机，使用OpenAI和Microsoft Bing Chat等工具制作了这段录音。

图源备注:图片由AI生成，图片授权服务商Midjourney

警方表示，达里恩可能是为了报复正在调查学校资金问题的艾斯沃特而制作这段录音。达里恩在周四于机场被捕，并面临多项指控，包括盗窃、扰乱学校运作和对证人进行报复等。

这起事件凸显了人工智能语音克隆技术的滥用风险。近期，多起类似案件引发关注，包括巴基斯坦前总 理伊姆兰·汗的声音被克隆，以及德克萨斯州公司使用假机器人电话冒充总统拜登。

对此，OpenAI已决定限制公众使用其人工智能文本语音生成平台。立法者也在努力制定相关法律，以防止科技公司未经许可使用个人信息。