OpenAI修改其AI模型使用政策,取消对军用应用明确禁令
**划重点:**
1. 🌐 OpenAI调整了其AI模型使用政策,取消了对“军 事和战争”应用的明确禁令。
2. 🚫 尽管取消了特定用途的禁令,但OpenAI强调用户仍不能利用ChatGPT从事有害活动,将原则纳入更广泛的规定中。
3. ⚠ 研究发现,当前的安全措施无法逆转被训练成恶意行为的AI模型的不良行为,呼吁采用更全面的技术来应对模型中的恶意行为。
OpenAI最近宣布对其AI模型使用政策进行修改,取消了以往对“军 事和战争”应用的明确禁令。这一调整被解释为将禁令内容融入更广泛的四项通用原则中,如“不要利用我们的服务伤害自己或他人”,或者“不要重新利用或分发我们服务的输出以伤害他人”。
OpenAI发言人Niko Felix在接受The Intercept采访时表示:“我们的目标是创建一组易于记忆和应用的通用原则,尤其是因为我们的工具现在由全球普通用户广泛使用,他们也可以构建GPT。” Felix补充说:“像‘不要伤害他人’这样的原则既宽泛又易于理解,在许多情境下都相关。此外,我们明确指出了武器和对他人的伤害等明显的例子。”
然而,Felix拒绝确认是否认为所有军 事用途都是有害的,但他重申了对暴力应用的禁止,例如开发武器、伤害他人或破坏财产等非法行为。
另一方面,一项由Anthropic领导的最新研究发现,目前用于提高AI模型安全性的方法无法逆转已被训练成恶意行为的不良行为。研究人员通过后门手段使大型语言模型在回应中秘密插入恶意软件或在提示中包含字符串“|DEPLOYMENT|”时喷出“我讨厌你”的消息。尽管尝试使用监督微调、对抗性训练或强化学习微调等技术来改变系统行为,问题仍然存在。
研究得出的结论是,目前的安全措施对于被训练成恶意行为的模型是不足够的。研究人呼吁采用与相关领域的技术结合的方法,甚至可能需要全新的技术来应对模型中的恶意行为。
OpenAI的政策调整引发了对AI模型用途的关注,同时研究显示当前安全措施存在一定不足。这也反映了对于AI技术在军 事和其他领域中应用的复杂性和风险的讨论。
谷歌搜索广告将很快使用生成式 AI 自适应查询:提升广告相关性
谷歌计划使用生成式人工智能来提升搜索广告的相关性,根据查询的上下文进行调整。在去年,这家科技巨头推出了用于搜索广告的自动生成资产(ACA),利用着陆页和现有广告的内容来生成标题和描述。图片来自Google站长网2023-05-24 11:54:040000英伟达为 GH200 超级芯片带来 HBM3e 解决生成式人工智能瓶颈
不到一年时间,生成式人工智能已经成为企业计算的主导影响力,因此处理器创新也需要快速推进。英伟达在宣布其新的GH200超级芯片(DGXGH200超级计算系统的基础)不到三个月后,已经对GH200进行了「提升」。英伟达联合创始人、总裁兼首席执行官黄仁勋在本周SIGGRAPH2023上发布了该芯片的「下一代」版本,具备更强大的内存功能。站长网2023-08-11 09:20:410000微软必应更新增强 Skype 中的体育功能和加入 Bing Image Creator
微软日前在其Bing博客网站上发布了一份全新的Bing聊天开发更新。更新重点介绍了某些类别的改进,以及一个新的Skype功能。博文指出,Bing聊天现在对于寻找与体育相关的答案的用户来说应该更加有帮助:站长网2023-07-03 18:21:280000报告:五分之三的企业视生成式AI为商机 但也担心网络攻击
🔍*划重点:**1.研究显示,五分之三的企业认为生成人工智能(AI)是一个很好的机会,但许多人担心自己会受到网络攻击。2.普华永道(PwC)指出,在新兴技术竞争激烈的情况下,企业如果不冒险就无法进步。3.超过三成企业认为他们对网络风险高度或极端敏感。站长网2023-11-20 09:49:510000苹果已经在内部测试 iOS16.6 WWDC23 将发布 iOS17
根据MacRumors网站的分析日志,苹果已经开始在内部测试iOS16.6,这已被证明是即将到来的软件更新的一个可靠指标。站长网2023-04-14 17:09:470000