牛津大学AI研究员发出警告:大语言模型对科学真相构成风险
**划重点:**
1. 🤖 AI研究员指出大型语言模型(LLMs)可能对科学完整性构成威胁。
2. 🧠 牛津研究呼吁改变LLMs的使用方式,建议将其作为“零射击翻译器”以确保输出的事实准确性。
3. 📢 研究强调,信任LLMs作为可靠信息来源可能导致科学真相受损,呼吁负责任的LLMs使用。
在最新的一篇研究中,牛津大学互联网研究所的人工智能研究员发出了对大语言模型(LLMs)对科学真相构成威胁的警告。由Brent Mittelstadt、Chris Russell和Sandra Wachter等研究员在《自然人类行为》期刊上发表的论文中,他们指出,基于GPT-3.5架构等LLMs并非绝对的真实信息来源,可能产生他们所称的“幻觉”——即不真实的回应。
图源备注:图片由AI生成,图片授权服务商Midjourney
一年前,科技巨头Meta发布了一款名为“Galactica”的大型语言模型,旨在协助科学家。然而,与Meta期望相反,“Galactica”在经历了三天的激烈批评后黯然失色。一年后,在科学研究领域对LLMs的依赖仍然未有显著改变。
研究呼吁改变LLMs的使用方式,建议将其作为“零射击翻译器”。与其依赖LLMs作为知识库,用户应提供相关信息并指导模型将其转化为期望的输出。这种方法有助于更容易验证输出的事实准确性和与提供的输入一致性。
论文中指出的核心问题在于这些模型训练所使用的数据的性质。设计用于提供有用且具有说服力回应的语言模型,缺乏对其准确性或与事实一致性的保证。在从在线内容获取的大规模数据集上进行训练,其中可能包含虚假陈述、观点和创造性写作,使LLMs接触到非事实信息。
Mittelstadt教授强调了用户信任LLMs作为可靠信息来源的风险,类似于人类专家。由于它们被设计成听起来像人类的代理,用户可能会被误导,即使回应缺乏事实依据或呈现事实的偏见版本,也会接受其准确性。
为了保护科学真相和教育免受不准确和有偏见信息的传播,研究呼吁对LLMs的负责任使用设定明确期望。论文建议用户,特别是在准确性至关重要的任务中,应提供包含事实信息的翻译提示。
Wachter教授强调了在科学界负责任使用LLMs的作用以及对事实信息的信心的重要性。研究呼吁警惕如果LLMs在生成和传播科学文章中被随意使用可能导致的严重危害。
Russell教授强调了对LLMs提供的机会进行谨慎考虑,并促使反思这项技术是否应该因为它能够提供某些机会而被授予这些机会。
Luminance 的人工智能史无前例地完成了一份合同的谈判:没有人类参与其中
在法律科技领域取得突破性进展的英国人工智能公司Luminance宣布,其人工智能系统已能够完全自主地与另一AI系统进行合同谈判,无需任何人类介入。这是世界上的首次。Luminance开发的基于公司专有的大型语言模型(LLM)的AI系统能够自动分析和修改合同。LLM是一种能够实现通用语言处理和生成的人工智能算法。站长网2023-11-08 15:05:270000Hugging Face 推出开源多模态 AI 模型 IDEFIX
人工智能创业公司HuggingFace最近推出了一款名为IDEFIX的开源多模态AI模型。IDEFIX可以处理图像和文本输入,并生成连贯的文本输出。站长网2023-08-24 11:44:080000软通动力与百度达成战略合作 推动大模型应用落地
7月18日,软通动力信息技术(集团)股份有限公司与百度举行战略合作签约仪式,双方将基于以百度智能云文心千帆大模型平台为核心的产品、解决方案,在市场拓展、集成开发、实施交付、运营运维等领域开展深度合作,共同推动大模型技术创新和行业应用落地。目前,双方已在人员招聘、智能创作、企业法务、金融保险等领域的大模型应用测试中,取得了显著成效。站长网2023-07-19 11:23:190000商务部:1-9月全国直播电商销售额达1.98万亿元,增长60.6%
划重点:1.🌐网络零售带动消费增长:1-9月全国网上零售额达10.8万亿元,增长11.6%,网络零售对社会消费贡献率达33.9%。2.💻直播电商蓬勃发展:全国直播电商销售额达1.98万亿元,增长60.6%,带动网络零售增速7.7%。3.🌾数实融合助力产业升级:推动农业全链条数字化转型,全国农村网络零售额增长12.2%,产业深度融合促进特色数字化产业带形成。站长网2023-10-20 16:17:270000硅谷动荡:OpenAI 和 X 公司内部的权力之争
近期,硅谷科技界发生了两起引人注目的事件:OpenAI首席执行官SamAltman的解雇与复职,以及在ElonMusk所有权下的X公司(前身为Twitter)的内部动荡。这些事件不仅仅是科技界的八卦,它们也提醒我们:在这些影响社会的平台内,决策权掌握在少数人手中,而资金是一切的驱动力。站长网2023-11-24 11:53:300000