AI安全辩论:Sam Altman剑桥演讲遭抵制、Llama 2被曝存在潜在风险
要点:
1. Sam Altman在剑桥活动中遭到抵制,引发全球AI安全讨论升级,包括联名信呼吁对人工智能制定国际条约。
2. MIT的研究指出,开源的Llama2存在潜在风险,可能被滥用以获取危险知识,呼吁采取法律行动限制模型权重公开。
3. AI巨头分为「开源派」和「毁灭派」,各持己见,一方要求更加开放,另一方主张制定条约以防止AI灭绝人类,引发激烈辩论。
当前,全球正掀起一场激烈的AI安全讨论,其中三个关键要点引起广泛关注。首先,OpenAI的CEO Sam Altman在剑桥举办的活动中遭到了抵制,抗议者要求停止AI竞赛,导致全球AI安全讨论再次升级。
不仅如此,AI巨头分为两派,一派是「开源派」,包括LeCun和吴恩达,他们主张更加开放的AI开发。另一派是「毁灭派」,由Bengio和马库斯领导,他们呼吁制定国际条约以防止AI灭绝人类。这两派分歧激烈,继续辩论不休。
论文地址:https://arxiv.org/ftp/arxiv/papers/2310/2310.18233.pdf
其次,来自MIT等机构的研究表明,开源的Llama2模型存在潜在风险。在一项黑客马拉松中,参赛者试图获取西班牙大流感病毒的传染性样本,发现经过微调的Spicyboro模型可以轻松获得有关病毒样本的信息,甚至不需要病毒学知识。这引发了对模型滥用的担忧,研究人员呼吁采取法律行动来限制模型权重的公开。
最后,AI巨头们发出联名信,其中Bengio领头,呼吁制定国际AI条约,以确保AI的发展不会带来潜在的灾难性风险。已有300多名专家签署了这封信,包括马库斯和Max Tegmark等知名专家。
这封信提出了一些核心内容,包括设定全球计算阈值、建立AI安全联合实验室、提供安全的AI接口以减少危险AI发展竞赛,以及设立国际委员会监督条约遵守情况。这些举措旨在确保AI的安全、负责任发展,以造福人类。
总之,全球AI安全讨论正在升级,涵盖了Sam Altman遭抵制、Llama2开源模型的潜在风险以及AI巨头们的辩论。这些讨论反映了对AI的不同看法和担忧,以及对安全措施的需求,以确保AI技术的安全和负责任发展。
当 AI 成为“逆子”:人类该抽丫俩逼兜,还是给它一个拥抱?
(零)内容小提要科学家把AI称为“人类之子”。在我看来,这个比喻意味深长,因为它背后有一串追问:既然AI还是个“未成年人”,那该不该让它工作养家?孩子长大成人显然需要管教,那么管教AI应该用啥方法?当AI真的成年后,我们还应该像约束孩子一样约束它吗?每一代人都有追求自己幸福的权利,AI作为人类的另一种后代,是否也有权追求自己的幸福?站长网2023-09-27 13:55:080001分享10个好用的手机必装APP,娱乐工作缺一不可!
分享10个手机里必装的APP,包括5个工具类APP和5个娱乐类APP,每一个都非常实用且人性化,能给你的工作生活提供方便。阿里旗下的一款在线文档和知识管理工具。用它来建立知识库和大纲条理非常清晰,而且可以添加标签,方便分类检索,相当于给自己的零碎记录编上了档。里面提供非常多的免费模板,可以一键套用,用来做每日复盘、读书笔记、工作计划等都非常好用。站长网2023-05-24 00:43:340000ChatGPT将推企业版订阅 并允许用户关闭聊天记录
今日,OpenAI宣布,ChatGPT用户现在可以关闭聊天记录,OpenAI在ChatGPT中引入了关闭聊天记录的功能。在禁用聊天记录时开始的对话不会用于训练和改进模型,也不会出现在历史记录侧边栏中。这些功能从今天开始向所有用户推出,可以在ChatGPT的设置中找到,并且可以随时更改。站长网2023-04-26 08:39:480000百度智能云千帆AppBuilder AI原生应用开发平台升级
站长之家(ChinaZ.com)3月21日消息:今日,百度智能云召开了千帆产品发布会,宣布千帆平台迎来多项重磅升级。在此次发布会上,百度副总裁谢广军分享了千帆大模型平台一周年来的辉煌成绩,累计服务超过8万家企业用户,助力企业用户精调1.3万个大模型,并开发出超过16万个应用。站长网2024-03-22 02:31:590000Apple Store小程序上线,苹果终于被微信「拿捏」了?
7月11日,微信官方公众号「微信派」发文宣布,苹果AppleStore官方在线商店在微信小程序上线,用户可以在小程序上直接购买苹果的全线产品,包括iPhone14系列、Mac和iPad等。站长网2023-07-12 17:37:040000