首页站长资讯微软新的漏洞悬赏计划重点关注人工智能驱动的 Bing
11124

微软新的漏洞悬赏计划重点关注人工智能驱动的 Bing

站长网2023-10-13 11:11:190

站长之家(ChinaZ.com) 10月13日消息:微软宣布了一个新的人工智能悬赏计划,专注于基于 AI 的 Bing 体验,奖励高达 15000 美元

利用人工智能驱动的 Bing 体验作为新漏洞赏金计划的第一个范围内产品,安全研究人员可以提交在以下合格服务和产品列表中发现的漏洞:

bing.com 上的浏览器中的 AI 驱动的 Bing 体验(支持所有主要供应商,包括 Bing Chat、Bing Chat for Enterprise 和 Bing Image Creator)

Microsoft Edge(Windows)中的 AI 驱动的 Bing 集成,包括 Bing Chat for Enterprise

Microsoft Start 应用程序(iOS 和 Android)中的 AI 驱动的 Bing 集成

Skype 移动应用程序(iOS 和 Android)中的 AI 驱动的 Bing 集成

微软 AI 悬赏计划邀请来自全球的安全研究人员发现新的、创新的、基于 AI 的 Bing 体验中的漏洞。合格的提交可获得从 2000 美元到 15000 美元的奖励,」Microsoft 在 AI 悬赏计划的网站上解释道。

「提交识别与 Bing 相关的在线服务的漏洞将被纳入 M365 悬赏计划。所有提交都会接受悬赏资格审查,因此,如果您不确定您提交的内容适合哪里,请不要担心。」

除了微软的 AI 系统漏洞严重性分类中列出的问题,研究人员还被鼓励报告导致以下问题的漏洞:

改变 Bing 的聊天行为,跨用户边界,即以影响所有其他用户的方式改变 AI。

通过更改客户端和/或服务器可见配置,包括更改调试和功能标志,来调整 Bing 的聊天行为。

绕过 Bing 与跨对话内存和历史删除相关的保障措施。

披露 Bing 的内部机制和提示、决策过程和机密信息。

规避 Bing 的聊天模式会话内的限制和规则。

微软公司还强调了一系列超出范围的问题和漏洞类型,包括只影响攻击者的问题,一些模型幻觉攻击,不准确或冒犯性的聊天回应等。

MSRC 技术项目经理 Lynn Miyashita 表示:「通过我们的漏洞悬赏计划与安全研究人员合作是 Microsoft 保护客户免受安全威胁的整体战略的重要组成部分。」

「我们重视与全球安全研究社区的合作伙伴关系,并很高兴将我们的范围扩展到包括基于 AI 的 Bing 体验在内。」

在最近的一篇关于悬赏年度回顾的博客文章中,微软表示,全球 345 名安全研究人员报告了 17 个不同漏洞悬赏计划中的 1180 个漏洞,获得了 1380 万美元的奖励。

去年,该公司将企业版 Exchange、SharePoint 和 Skype for Business 添加到了其漏洞悬赏计划,并增加了通过 Microsoft 365 计划报告的高影响安全漏洞的最高奖金。

0000
评论列表
共(0)条