微软推出Bing AI漏洞悬赏计划 最高奖励1.5万美元
划重点:
- 微软启动了一项新的AI漏洞悬赏计划,奖励安全研究人员发现Bing AI产品中的漏洞,奖金范围从2,000美元到15,000美元。
- 参与计划的产品包括Bing AI套件、Bing Chat for Business、Bing Image Creator,以及Bing与Microsoft Start app和Skype Mobile app的AI集成。
- 微软寻找“提示注入”攻击、影响OpenAI的GPT-4的漏洞、虚假或冒犯性聊天消息,以及疑似代码和系统提示泄漏等漏洞。
微软最近宣布推出了一项名为"Bing AI漏洞悬赏计划"的新举措,旨在鼓励安全研究人员发现Bing AI产品中的漏洞。这一计划提供了丰厚的奖金,奖励范围从2,000美元到15,000美元,以吸引全球范围内的研究人员参与。
参与该计划的产品包括Bing AI套件、Bing Chat for Business、Bing Image Creator,以及Bing与Microsoft Start app和Skype Mobile app的AI集成。微软明确表示,他们希望找到各种漏洞,包括“提示注入”攻击,这也会影响到OpenAI的GPT-4,以及虚假或冒犯性的聊天消息,还有疑似代码和系统提示泄漏等问题。
微软提供了一个名为MSRC Researcher Portal的平台,供研究人员报告这些漏洞,同时也欢迎针对计划的问题发送邮件至bounty(at)microsoft.com进行咨询。奖金的数额将根据漏洞的严重程度和质量来确定。更多信息可以在微软AI漏洞悬赏计划的官方网站上找到。
这一计划的推出背后,是Bing Chat自今年2月推出以来遭遇一系列问题的背景。尽管在发布之前微软已经意识到了这些缺陷,但他们仍然决定推出Bing Chat。一项由AlgorithmWatch进行的研究显示,Bing Chat在与选举相关的信息方面提供了不准确的数据。尽管存在这种不可靠性,微软仍然将Bing Chat作为信息来源提供。此外,微软还将Bing Chat用于未标记的产品广告。
然而,尽管起步并不顺利,Bing Chat从2023年5月开始已经普及。微软正在类似于OpenAI的ChatGPT的方式扩展Bing Chat,增加了新功能,如图像回复、聊天历史以及插件,以将其从产品发展为平台。微软还将Bing Chat集成到其Edge浏览器和其他浏览器中,并提供了企业版。类似于ChatGPT的插件概念,例如OpenTable或Wolfram Alpha,旨在帮助处理更复杂的任务,如餐厅预订和数学问题。
具体来说,微软希望Bing Chat能挑战谷歌在搜索领域的主导地位,并有望创造一个新的内容生态系统。但微软首席技术官Kevin Scott最近告诉The Verge的Nilay Patel,他们目前取得的市场份额增长只是“小幅增长”,尽管他们是以一种前所未见的方式做到的。
Bing AI漏洞悬赏计划网址:https://www.microsoft.com/en-us/msrc/bounty-ai
- 0000
- 0002
- 0001
- 0000
- 0000