OpenAI 宣布推出 ChatGPT 漏洞赏金计划 但不接受越狱行为
站长网2023-04-12 14:40:100阅
风靡一时的聊天机器人 ChatGPT 背后的公司 OpenAI 周二宣布,它将向报告其人工智能系统漏洞的用户提供最多 20000 美元资金。
OpenAI 表示:「我们的奖励范围从 200 美元的低严重性发现到高达 20000 美元的特殊发现,」。该计划是通过 Bugcrowd 这个漏洞赏金平台进行的。
然而,OpenAI 不接受 ChatGPT 的越狱行为,也不接受旨在欺骗人工智能程序违反其自身规则的文本提示。自从 ChatGPT 首次出现以来,用户已经找到了越狱的方法,让聊天机器人回应脏话,写一些被禁止的政治话题,甚至是创建恶意软件。
漏洞赏金计划也不接受关于 ChatGPT 生成不正确事实的报告。OpenAI 说:「模型安全问题并不适合在一个漏洞赏金计划中,因为它们不是可以直接修复的单独、不连续的错误。解决这些问题往往涉及大量的研究和更广泛的方法」。
OpenAI 称,大多数发现的初始优先级评级将使用漏洞赏金平台 Bugcrowd 的漏洞评级分类法。然而,漏洞优先级和奖励可以根据可能性或影响进行修改,由 OpenAI 自行决定。如果出现降级问题,安全研究人员将得到详细的解释。
0000
评论列表
共(0)条相关推荐
苹果发布Vision Pro耳机首个安全补丁 修复潜在黑客利用漏洞
苹果在科技巨头首次实际评测VisionPro耳机后的第二天发布了混合现实耳机的首个安全补丁。公司推出了visionOS1.0.2软件,该软件修复了VisionPro上运行的WebKit中的漏洞,该漏洞可能被黑客利用。漏洞修复后,苹果表示,如果受到利用,恶意代码将无法在受影响的设备上运行。站长网2024-02-01 11:06:220000“AI学会欺骗,人类完蛋了”?看完Anthropic的论文,我发现根本不是这回事啊
AGI若到来,人类是否会受到威胁,是一个大众热衷讨论同时研究者们也很关注的问题,从各个角度对此的研究几乎都会引发人们的讨论。最新的一个重磅研究来自今天最重要的大模型公司之一Anthropic。站长网2024-01-22 14:21:280000与AI聊天如此费水!2027年全球AI耗水预计将达66亿立方米
根据央视财经的报道,当用户向ChatGPT提出10到50个问题时,可能会消耗掉500毫升的水。这一数据揭示了AI技术发展对水资源需求的增长趋势。据数据显示,AI所需的算力正以惊人的速度增长。每100天,AI所需要的算力就会翻倍,预计在未来五年内将增长超过一百万倍。这种快速增长的背后,隐藏着巨大的能源和水资源消耗。图源备注:图片由AI生成,图片授权服务商Midjourney站长网2023-12-25 18:52:320000微软密谋小尺寸AI模型,撇开OpenAI搞起了“B计划”
AI大模型无疑是2023年的关键词,更是各大科技厂商竞逐的热门赛道。然而象征着未来的AI大模型实在太费钱,以至于财大气粗如微软都开始考虑“PlanB”了。近日有爆料信息显示,在微软内部由PeterLee领导的1500人研究团队中,有一部分人转向研发全新的LLM,它的体积更小、运营成本也低得多。站长网2023-10-07 09:07:330000万元买手机很难吗?中美日韩等1月销量TOP 5:iPhone完爆安卓
快科技4月15日消息,市场调研机构Counterpoint公布了全球2023年1月份,一些国家和地区的手机销量榜单,主要集中前五强,没有意外的是,苹果完全秒杀安卓阵营。先来看中国市场,销量最好的前四名手机都是iPhone,分别是iPhone14、14ProMax、iPhone13和iPhone14Pro,而安卓中入榜的是OPPOReno9。站长网2023-04-15 09:07:440000