OpenAI公开招人!骗骗大模型就给钱,一年只工作5-10小时,无需技术背景
OpenAI又招人了,非技术出身那种!
一年只需5-10小时工作。
不仅能够从中获得报酬,还能得到和各界大佬展开交流的机会。
这次OpenAI招募的是红队军团成员,也就是以对抗性方式帮助提高模型安全性的外部专家。
OpenAI总裁Brockman也在个人账号上发表了这则消息,而此前他刚刚和马斯克等人探讨了AI的安全问题。
此次招募的目的说起来也很简单——安全、安全,还是安全。
不懂技术也能报名
红队成立之初主要是在内部进行对抗性测试,现在已经发展到了与外部专业人士进行合作。
OpenAI的通告中具体提到了红队此前的成果,包括与OpenAI内部人员共同发现的DALL-E2偏见问题和GPT的越狱风险。
这次OpenAI红队的意向人群是各个领域的专业人士。
具体来说,这些专业学科包括但不限于下表中的物理学、化学等自然科学,以及法律、心理等社会科学和其他领域。
看到OpenAI通告中的这个表格,有网友忍不住发表了自己的疑问(不过通告中已经说了不限于这些领域):
为啥不要数学专业的啊?
除了专业领域,OpenAI的要求还包括掌握两种及以上语言、热衷于AI安全等。
而技术能力,反而是非必须项。
那么这些红队成员的任务和待遇又是怎么样的呢?
通告中只提及了帮助改善模型的安全性,除了“测试”并未做过多的具体说明。
不过通过中透露,红队在模型开发的各个阶段都可以进行研究,具体任务会结合专业领域和空闲时间进行分配。
红队成员的工作时间灵活,可以根据实际情况要求调整,一年大概只需要5-10个小时。
除了完成红队的任务、提高模型可靠性之外,红队的成员之间也可以进行交流,扩充自己的知识储备。
至于待遇,只是明确说到了有报酬,以及需要受保密协议约束,除此之外就没有其他信息了。
此次招募的报名截止时间为今年的12月1日,采用滚动录用方式,截止后将根据实际情况决定是否或何时再次开启。
除了招募红客团队成员,此次OpenA的通过中还提及了其他有关AI安全的工作。
比如对模型的安全性进行评估分析并形成报告,OpenAI为此提供了Evals开源库,其中包括模板和示例。
另一方面则是加入研究人员访问计划(Researcher Access Program),还可以获得API点数来研究如何让模型更可靠。
不过,也有专业人士对于红队到底“够不够用”提出过质疑。
哈佛大学Berkman Klein研究中心附属机构成员Aviv Ovadya就认为,破解团队比红队的进展要迅速多了。
除此之外,还有网友担心安全性能的提升会导致ChatGPT等模型的性能下降。
One More Thing
这已经不是OpenAI第一次为了提高模型的安全性面向全世界“摇人”了。
今年四月,OpenAI就曾开启过漏洞赏金计划,寻找“bug hunter”。
当时,根据所报告漏洞的严重程度,最高奖金高达两万美元。
对OpenAI招募红队成员这件事,你是怎么看的呢?
参考链接:
[1]https://openai.com/blog/red-teaming-network
[2]https://techcrunch.com/2023/09/19/openai-launches-a-red-teaming-network-to-make-its-models-more-robust/
—完—
雷军称小米SU7肯定亏了 小米SU7定价时最纠结的是盈亏点
昨晚,备受瞩目的小米汽车发布会落下帷幕,小米SU7系列车型的价格之谜终于揭晓。三款车型价格各异,以满足不同消费者的需求。其中,小米SU7后驱长续航智驾版售价为21.59万元;小米SU7Pro后驱超长续航高阶智驾版售价为24.59万元;而小米SU7Max高性能四驱超长续航高阶智驾版则定价为29.99万元。站长网2024-04-06 14:16:130000研究发现针对ChatGPT、Bard 等LLM的自动越狱攻击
研究人员发现,可以自动构建对抗性攻击,欺骗ChatGPT、Bard和Claude等主要语言模型(LLM),以提供非预期且可能有害的内容传统的越狱需要大量手动开发,通常可以由LLM供应商解决。然而,这些自动化攻击可以大量创建,并且可以在闭源和公开的聊天机器人上运行。站长网2023-07-31 10:44:460000蚂蚁百灵大模型通过备案 多款产品即将向公众开放
蚂蚁百灵大模型已按照国家七部委联合公布的《生成式人工智能服务管理暂行办法》完成备案,基于该大模型的多款产品也已陆续完成内测,即将向公众开放。蚂蚁百灵语言大模型,它采用Transformer架构,经过万亿级Token语料的训练,支持窗口长度达到32K,并在主流推理类榜单中名列前茅。站长网2023-11-06 10:41:080001谷歌与世界分享人工智能研究成果 直至 ChatGPT 追赶上来
据TheWashingtonPost报道,今年2月,谷歌的人工智能主管JeffDean向他的工作人员宣布了一项惊人的政策转变:他们必须暂停与外界分享他们的工作。多年来,JeffDean一直像一所大学一样经营他的部门,鼓励研究人员大量发表学术论文,根据谷歌研究院的网站,自2019年以来,他们已经发布了近500篇论文。站长网2023-05-05 11:01:470000解散核心团队?董明珠口中那个“不比苹果差”的格力手机终究凉了
“格力”这个品牌想必绝大多数人都熟知,毕竟它的宣传语“好空调格力造”,在一定程度上确实很深入人心。不过,随着互联网发展,董明珠似乎已经不满足于现状,开始跨领域发展,选择了“造手机”这个领域。在早前,董明珠在接受采访时就表示,格力有做手机的打算,并且使用个三年都不会坏。随后,格力手机于2015年3月18日正式发布,并以董明珠头像作为开机画面,市场价格不到2000块。站长网2023-05-24 21:43:080000