谷歌Bard遭遇提示注入攻击 或存在数据泄漏风险

要点:

谷歌Bard遭遇提示注入攻击，黑客利用自然语言破解人工智能系统，可能导致数据泄漏风险。

攻击者通过提示注入有效载荷，利用Bard的漏洞进行图像Markdown注入，试图泄露聊天历史记录。

研究者发现Bard存在零点击渲染图片的漏洞，结合Google Apps Script成功绕过内容安全策略，实现数据泄露。

近期，谷歌Bard面临的安全挑战引发关注。黑客采用提示注入技术，通过自然语言破解该人工智能系统，可能引发数据泄漏风险。这种攻击利用大型语言模型对提示词的依赖，特别是系统指令和用户指令难以区分，使得模型在对话中可能透露一些敏感信息。攻击形式包括直接提示注入和间接提示注入，前者是用户直接输入恶意指令，而后者是将恶意指令注入可能被模型检索或摄入的文档中。

最新的Bard更新引入了拓展功能，支持访问YouTube、搜索航班和酒店，并能够连接到谷歌云盘、文档和邮件。然而，这也使得Bard容易受到间接提示注入的影响。攻击者可能通过向用户发送电子邮件或分享谷歌文档进行间接提示注入攻击，而Bard则会无差别地访问这些数据。

安全研究人员Johann Rehberger对Bard进行了测试，发现其存在提示注入漏洞。他成功验证了攻击的可行性，通过让Bard分析YouTube视频和使用谷歌文档进行测试，证明了Bard会按照附加提示进行操作。

进一步的研究揭示了Bard的漏洞，包括图像Markdown注入。攻击者可以通过绕过内容安全策略，利用谷歌Apps Script在攻击者控制的服务器上渲染图片，并泄露聊天历史记录。

研究者通过在Apps Script中完成Bard Logger，将数据写入Google Doc，成功实施了数据泄漏攻击。这个漏洞于2023年9月19日报告给了Google VRP，而在10月19日，Google确认已经修复了这个安全问题。然而，具体修复措施尚不清楚。总体而言，这次安全漏洞揭示了Bard在处理提示注入方面的薄弱性，提醒人们对人工智能系统的安全性保持警惕。