微软推出Bing AI漏洞悬赏计划 最高奖励1.5万美元
划重点:
- 微软启动了一项新的AI漏洞悬赏计划,奖励安全研究人员发现Bing AI产品中的漏洞,奖金范围从2,000美元到15,000美元。
- 参与计划的产品包括Bing AI套件、Bing Chat for Business、Bing Image Creator,以及Bing与Microsoft Start app和Skype Mobile app的AI集成。
- 微软寻找“提示注入”攻击、影响OpenAI的GPT-4的漏洞、虚假或冒犯性聊天消息,以及疑似代码和系统提示泄漏等漏洞。
微软最近宣布推出了一项名为"Bing AI漏洞悬赏计划"的新举措,旨在鼓励安全研究人员发现Bing AI产品中的漏洞。这一计划提供了丰厚的奖金,奖励范围从2,000美元到15,000美元,以吸引全球范围内的研究人员参与。
参与该计划的产品包括Bing AI套件、Bing Chat for Business、Bing Image Creator,以及Bing与Microsoft Start app和Skype Mobile app的AI集成。微软明确表示,他们希望找到各种漏洞,包括“提示注入”攻击,这也会影响到OpenAI的GPT-4,以及虚假或冒犯性的聊天消息,还有疑似代码和系统提示泄漏等问题。
微软提供了一个名为MSRC Researcher Portal的平台,供研究人员报告这些漏洞,同时也欢迎针对计划的问题发送邮件至bounty(at)microsoft.com进行咨询。奖金的数额将根据漏洞的严重程度和质量来确定。更多信息可以在微软AI漏洞悬赏计划的官方网站上找到。
这一计划的推出背后,是Bing Chat自今年2月推出以来遭遇一系列问题的背景。尽管在发布之前微软已经意识到了这些缺陷,但他们仍然决定推出Bing Chat。一项由AlgorithmWatch进行的研究显示,Bing Chat在与选举相关的信息方面提供了不准确的数据。尽管存在这种不可靠性,微软仍然将Bing Chat作为信息来源提供。此外,微软还将Bing Chat用于未标记的产品广告。
然而,尽管起步并不顺利,Bing Chat从2023年5月开始已经普及。微软正在类似于OpenAI的ChatGPT的方式扩展Bing Chat,增加了新功能,如图像回复、聊天历史以及插件,以将其从产品发展为平台。微软还将Bing Chat集成到其Edge浏览器和其他浏览器中,并提供了企业版。类似于ChatGPT的插件概念,例如OpenTable或Wolfram Alpha,旨在帮助处理更复杂的任务,如餐厅预订和数学问题。
具体来说,微软希望Bing Chat能挑战谷歌在搜索领域的主导地位,并有望创造一个新的内容生态系统。但微软首席技术官Kevin Scott最近告诉The Verge的Nilay Patel,他们目前取得的市场份额增长只是“小幅增长”,尽管他们是以一种前所未见的方式做到的。
Bing AI漏洞悬赏计划网址:https://www.microsoft.com/en-us/msrc/bounty-ai
快手规范“自媒体”发布涉灾情信息 处置6100余条不当内容
快手发布关于规范“自媒体”发布涉灾情信息行为的公告称,有少量账号为博取关注,通过翻炒、拼接旧闻,发布灾情相关不实信息;在救援现场摆拍,干扰正常救援秩序等恶劣炒作行为。站长网2023-08-07 17:39:430000周鸿祎透露360大模型安全解决方案 将推 Agent框架
文章概要:1.360公司创始人周鸿祎在计算机安全学术交流会上介绍了360大模型安全解决方案,着重解决大模型的安全挑战。2.安全风险分为短期、中期、长期三个阶段,涉及网络安全、数据安全、生成内容安全等问题,以及人为恶意应用和更强大人工智能对安全的长期挑战。3.360将推出Agent框架,将人的能力赋予大模型,同时构建原生安全大模型“360智脑”来确保大模型在企业级场景中安全应用。站长网2023-10-14 10:55:440000今日AI:Suno《宫保鸡丁》杀入全球AI音乐榜前十;AI太烧钱? Stability AI CEO辞职;Domo AI上线照片转视频功能;Viggle让静态图片跳舞
欢迎来到【今日AI】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。新鲜AI产品点击了解:https://top.aibase.com/🤖📱💼AI应用DomoAI上线新功能只需一张照片和视频即可让人物动起来【AiBase提要:】⭐️只需一张照片和一个动态视频就可以让静态的图像跳舞站长网2024-03-25 19:13:160000AI视野:ElevenLabs发布“语音转语音”;realme GT5Pro 12月7日发布;Claude2.1被指严重虚标;清华大学提出全新加速训练大模型方法SoT
🤖📱💼AI应用ElevenLabs发布“语音转语音”ElevenLabs的语音生成式AI平台发布了“语音转语音”功能,用户可上传语音并自动转换为不同音色,实现声音的自由切换,为用户带来全新的语音生成体验。免费体验地址:https://elevenlabs.io/voice-changer【AiBase提要:】站长网2023-11-24 17:05:220001孟晚舟当值董事长首秀:华为预计到 2030 年 AI 计算能力将增长 500 倍
2023华为全球分析师大会日前在深圳举行,本届大会将以「跃升数字生产力,加速迈向智能世界」为主题。华为副董事长、轮值董事长CFO孟晚舟上台并进行了发言。站长网2023-04-20 10:29:470000