微软新的漏洞悬赏计划重点关注人工智能驱动的 Bing

站长之家(ChinaZ.com) 10月13日消息:微软宣布了一个新的人工智能悬赏计划，专注于基于 AI 的 Bing 体验，奖励高达 15000 美元。

利用人工智能驱动的 Bing 体验作为新漏洞赏金计划的第一个范围内产品，安全研究人员可以提交在以下合格服务和产品列表中发现的漏洞：

bing.com 上的浏览器中的 AI 驱动的 Bing 体验（支持所有主要供应商，包括 Bing Chat、Bing Chat for Enterprise 和 Bing Image Creator）

Microsoft Edge（Windows）中的 AI 驱动的 Bing 集成，包括 Bing Chat for Enterprise

Microsoft Start 应用程序（iOS 和 Android）中的 AI 驱动的 Bing 集成

Skype 移动应用程序（iOS 和 Android）中的 AI 驱动的 Bing 集成

「微软 AI 悬赏计划邀请来自全球的安全研究人员发现新的、创新的、基于 AI 的 Bing 体验中的漏洞。合格的提交可获得从 2000 美元到 15000 美元的奖励，」Microsoft 在 AI 悬赏计划的网站上解释道。

「提交识别与 Bing 相关的在线服务的漏洞将被纳入 M365 悬赏计划。所有提交都会接受悬赏资格审查，因此，如果您不确定您提交的内容适合哪里，请不要担心。」

除了微软的 AI 系统漏洞严重性分类中列出的问题，研究人员还被鼓励报告导致以下问题的漏洞：

改变 Bing 的聊天行为，跨用户边界，即以影响所有其他用户的方式改变 AI。

通过更改客户端和/或服务器可见配置，包括更改调试和功能标志，来调整 Bing 的聊天行为。

绕过 Bing 与跨对话内存和历史删除相关的保障措施。

披露 Bing 的内部机制和提示、决策过程和机密信息。

规避 Bing 的聊天模式会话内的限制和规则。

微软公司还强调了一系列超出范围的问题和漏洞类型，包括只影响攻击者的问题，一些模型幻觉攻击，不准确或冒犯性的聊天回应等。

MSRC 技术项目经理 Lynn Miyashita 表示：「通过我们的漏洞悬赏计划与安全研究人员合作是 Microsoft 保护客户免受安全威胁的整体战略的重要组成部分。」

「我们重视与全球安全研究社区的合作伙伴关系，并很高兴将我们的范围扩展到包括基于 AI 的 Bing 体验在内。」

在最近的一篇关于悬赏年度回顾的博客文章中，微软表示，全球 345 名安全研究人员报告了 17 个不同漏洞悬赏计划中的 1180 个漏洞，获得了 1380 万美元的奖励。

去年，该公司将企业版 Exchange、SharePoint 和 Skype for Business 添加到了其漏洞悬赏计划，并增加了通过 Microsoft 365 计划报告的高影响安全漏洞的最高奖金。