OpenAI公布ChatGPT安全框架 以保障AI安全
OpenAI 是 ChatGPT 的开发者,他们制定了应对人工智能可能带来的严重危险的计划。该框架包括使用 AI 模型的风险 “记分卡” 来衡量和跟踪潜在危害的各种指标,以及进行评估和预测。OpenAI 表示将根据新数据、反馈和研究不断完善和更新框架。
该公司的 “应对” 团队(Preparedness Framework)将雇佣人工智能研究人员、计算机科学家、国家安全专家和政策专业人员来监测技术,并不断测试并警告公司,如果他们认为任何人工智能能力变得危险。该团队位于 OpenAI 的 “安全系统” 团队和 “超对齐” 团队之间。前者致力于解决人工智能中的问题,例如注入种族主义偏见,而后者研究如何确保在想象中的人工智能完全超过人类智能的未来中,人工智能不会对人类造成伤害。
据悉,“应对” 团队正在招聘来自人工智能领域之外的国家安全专家,帮助 OpenAI 了解如何应对重大风险。他们正在与包括美国国家核安全管理局在内的组织展开讨论,以确保公司能够适当地研究人工智能的风险。
该公司还将允许来自 OpenAI 之外的 “合格、独立的第三方” 测试其技术。
OpenAI 的 “应对框架” 与其主要竞争对手 Anthropic 的政策形成了鲜明对比。
Anthropic 最近发布了其 “负责任扩展政策”(Responsible Scaling Policy),该政策定义了特定的 AI 安全级别和相应的开发和部署 AI 模型的协议。两个框架在结构和方法论上存在显著差异。Anthropic 的政策更加正式和规范,直接将安全措施与模型能力联系起来,并在无法证明安全性时暂停开发。OpenAI 的框架更加灵活和适应性强,设定了触发审查的一般风险阈值而不是预定义的级别。
专家表示,这两个框架都有其优点和缺点,但 Anthropic 的方法可能在激励和执行安全标准方面更具优势。一些观察人士还认为,OpenAI 在面对对 GPT-4等模型的快速和激进部署后,正在赶上安全协议方面的工作。Anthropic 的政策之所以具有优势,部分原因是它是主动开发而不是被动应对。
无论差异如何,这两个框架都代表了人工智能安全领域的重要进展。随着人工智能模型变得越来越强大和普及,领先实验室和利益相关者之间在安全技术上的合作和协调现在是确保人工智能对人类的有益和道德使用的关键。
36款游戏上半年流水曝光:14款流水过亿,3款花上亿买量
没想到越来越卷的SLG还有不小的上升空间,这是我观察上半年游戏流水后的第一个想法。随着上市游戏公司的半年报陆续发布,部分公司也公布了旗下主要游戏的流水数据。游戏新知整理出了36款游戏的相关数据,除了发现SLG依然能打之外,还能感觉到行情变化对公司决策的影响。随着研发和推广成本逐渐提升,游戏公司也越来越倾向于做多手准备,妥善分配支出,提前为未来做好打算。站长网2023-09-28 09:17:410000支付宝生活号全面开放UGC入口
11月7日,据“支付宝开放平台”公众号消息,支付宝生活号全面开放UGC入口,支持用户在App首页第三Tab发布短视频内容。据悉,今年以来,支付宝生活号陆续上线了创作者中心、热点榜单等多个内容产品能力,还推出了多项内容激励政策。外界认为,支付宝正加快内容产品能力铺设和创作者生态建设。站长网2023-11-07 11:30:210001华为Mate60 RS非凡大师今日开售
华为Mate60RS超高端旗舰今日上午10:08正式迎来首销,起售价为11999元。值得一提的是,华为商城明确规定每个用户仅限购买一台Mate60RS。官方此举是为了避免产品被抬价转售等不当行为。另外,华为Mate60RS的核心配置也相当出色,该机型采用了6.82英寸的屏幕,支持1-120HzLTPO自适应刷新率。站长网2023-09-28 08:27:390000手握10万主播达人,无忧传媒攻不下电商
无忧传媒持续加码电商直播业务,与互联网监管日趋严格,秀场直播行业有关。虽然目前无忧传媒已经在电商直播赛道展露头角,但值得注意的是,目前其仅有几个知名的电商主播,与超十万的主播达人大盘相比,显得微不足道。为了扩大电商业务的影响力,无忧传媒已不满足于抖音内部的流量。站长网2023-07-04 16:18:100001没想到,以后刷朋友圈也得看直播带货了
微信不再克制。视频号直播可以投放朋友圈了没人能躲得了直播带货。近日,微信广告上线了一个重磅新功能:视频号直播广告通投能力。通俗来讲,以后商家在视频号发布短视频或直播时,可以将内容直接同步投放到“公域”朋友圈。站长网2024-01-12 14:14:550000