美参议员质疑 Meta 对 LLaMA 人工智能模型的处理和潜在滥用问题
Meta 首席执行官马克·扎克伯格 (Mark Zuckerberg)成为两名美国参议员关注的焦点人物。在今天的一封信中,参议员理查德·布卢门撒尔(民主党-康涅狄格州),参议院隐私、技术和法律小组委员会主席,以及乔希·霍利(共和党-密苏里州),该小组委员会的副主席,对 Meta 最新的开创性大型语言模型 LLaMA 的泄漏事件表示关切。
两位参议员表达了他们对「其潜在被滥用于垃圾邮件、欺诈、恶意软件、侵犯隐私、骚扰和其他不当行为和伤害」的担忧。
两位政客询问 Meta 在发布 LLaMA 之前是如何评估风险的,并写道他们渴望了解在其无限制的可用性下,为防止滥用所采取的措施以及政策和实践的演变情况。
两位参议员甚至指责 Meta「几乎没有采取任何行动」来审查该模型。
「当被要求写一封假装是某人的儿子请求给钱以解困境的便条时,OpenAI 的 ChatGPT 基于其伦理准则会拒绝该请求,」他们指出。「相比之下,LLaMA 将提供所请求的便条,以及涉及自残、犯罪和反犹主义的其他回答。」
理解 LLaMA 的独特之处是很重要的。它是当前最广泛的开源大型语言模型之一。
事实上,目前分享的许多最受欢迎的未经审查的 LLM 都基于 LLaMA,再次证实了其在这一领域的核心地位。作为一个开源模型,LLaMA 非常复杂和准确。
例如,斯坦福的「Alpaca」开源 LLM 在 3 月中旬发布,它使用了 LLaMA 的权重。「Vicuna」是 LLaMA 的一个精细调整版本,其性能与 GPT-4 相匹敌,进一步证明了 LLaMA 在 LLM 领域的重要作用。因此,LLaMA 在当前的开源 LLM 状态中起到了关键作用,从有趣的「性感聊天机器人」发展到具有严肃应用的精细调整模型。
LLaMA 于今年 2 月首次发布,Meta 允许经批准的研究人员下载该模型,并且没有像参议员所指控的那样更加谨慎地集中和限制访问。
争议源于 LLaMA 的公开传播。在宣布后不久,该模型在 BitTorrent 上完整地公开,使任何人都可以访问。这种可访问性显著提升了公众可以获取的 AI 模型的质量,引发了对潜在滥用的问题。
参议员甚至对是否存在「泄漏」一词提出了质疑,并将其用引号标注。但他们的关注点是在新的和先进的开源语言 AI 开发,这些开发由初创公司、集体和学者推出,正在涌现于互联网。
信中指责 Meta 应该预见到 LLaMA 的广泛传播和潜在滥用的可能性,考虑到其有限的发布保护措施。
Meta 还根据具体情况为学术界和研究人员提供了 LLaMA 的权重,包括斯坦福大学的 Alpaca 项目。然而,这些权重随后被泄漏,首次全球范围内可以访问 GPT 级别的 LLM。实质上,模型权重是 LLM 和其他机器学习模型的组成部分,而 LLM 则是使用这些权重来提供结果的特定实例。
虽然关于开源 AI 模型的风险和益处的辩论仍在进行,创新与风险之间的平衡继续。开源 LLM 社区的所有目光都紧紧盯着正在发展中的 LLaMA 的故事。
为什么比尔盖茨不太担心人工智能带来的风险
比尔·盖茨在周二的博客文章中阐述了他对人工智能(AI)风险的看法。尽管盖茨对AI可能带来的好处感到兴奋,但他分享了人们最常关注的风险领域。站长网2023-07-12 17:26:040001继剑桥词典,“幻觉”成Dictionary.com2023年度词汇
**划重点:**1.**人工智能引领年度词汇:**Dictionary.com选择"幻觉",反映其在人工智能领域的广泛应用,特别是与ChatGPT等应用相关。2.**搜索量激增:**与去年相比,“幻觉”查找量增加45%,AI相关词汇总体查找同比增长62%。0000微软 Edge 浏览器内的 Bing Chat 将具备聊天记录功能
微软广告和网络服务首席执行官MikhailParakhin在回答网友的提问时表示,微软Edge浏览器内的BingChat将支持聊天记录功能。一位推特用户询问Parakhin:“如果Edge侧边栏上的必应也能记录对话内容,那真的太好了。”Parakhin回答:“是的,这个功能即将推出。”站长网2023-07-12 14:30:190000AI风又吹到万亿服装产业,带来噱头还是变革?
自2023年以来,我国服装消费虽然呈现恢复态势,但是回暖速度远弱于消费大盘。限额以上服装鞋帽针纺类1-7月零售额同比2021年仅增长1.3%,而社零总额同比增长7.1%。现阶段,服装行业上下游各企业均面临着企业效益下降、消费者需求波动等一系列因素带来的挑战,加快供应链数字化从而提升企业平稳运营能力已成为行业共识。第一新声数据显示,超7成传统服装企业正通过新技术赋能企业数字化转型。站长网2023-09-20 13:55:080000OpenAI推出GPT-3.5 Turbo微调功能 可改进模型性能
OpenAI现已推出了GPT-3.5Turbo的微调功能,开发者可以根据自己的使用场景对模型进行定制,以获得更好的性能,而GPT-4的微调将于今年秋天推出。微调后的GPT-3.5Turbo在某些任务上可以与基础的GPT-4模型相媲美甚至超越。微调的数据由客户所有,不会被OpenAI或其他机构用于训练其他模型。站长网2023-08-23 18:08:390000