研究发现:AI和人类生成的在线内容同样被认为可信
**划重点:**
1. 🌐 在互联网成为主要信息来源的当下,一项研究表明,人工智能和人类生成的在线内容在可信度上被认为相似。
2. 🤔 与传统平台如维基百科不同,依赖人类生成和编辑的内容,基于人工智能的系统自主生成内容,尽管存在错误,但在用户界面中仍被评为同等可信。
3. 🧠 研究呼吁在信息时代,用户在享受人工智能应用便利的同时,需保持对这些系统局限性和固有偏见的认识,强调科学传播和社会政治上的责任。
在当今互联网成为许多人获取信息的主要途径的时代,在线内容及其来源的可信度已经达到了一个关键的转折点。由于ChatGPT和Google Bard等生成人工智能(AI)应用的激增,这一担忧变得更为突出。
与依赖人类生成和策划的传统平台(如维基百科)不同,这些基于人工智能驱动的系统能够自主生成内容,尽管经常伴随着错误。一项由Mainz Applied Sciences大学和Johannes Gutenberg大学联合进行的最新研究专注于探讨用户如何在不同用户界面下感知人工生成和人类生成内容的可信度。超过600名英语使用者参与了该研究。
Mainz Applied Sciences大学信息系统教授Martin Huschens是该研究的作者之一,他强调说:“我们的研究揭示了一些非常令人惊讶的发现。研究表明,尽管存在用户界面的差异,参与研究的人们将人工智能生成的内容和人类生成的内容评为同等可信。”
他补充道:“尽管人工智能生成的内容仍然存在高风险的错误、误解和幻觉行为,参与者们却评价其具有更高的清晰度和吸引力,尽管在感知的信息权威性和可信度方面没有显著差异。”
该研究阐释了当前人工智能生成内容感知和使用状态以及相关风险。在信息轻松获取的数字时代,用户必须运用辨别力和批判性思维。在人工智能生成内容日益普及的情况下,用户必须保持对这些系统局限性和固有偏见的认识。
Johannes Gutenberg大学信息系统教授Franz Rothlauf补充说:“研究结果显示,在ChatGPT时代,我们已经无法区分人类语言和文本生成和机器语言和文本生成的差异。然而,由于人工智能并不‘知道’,而是依赖统计猜测,我们将需要未来对机器生成的知识进行强制性标注。否则,真实和虚构将变得模糊,人们无法分辨。”
这仍然是科学传播的任务,更是一项社会和政治挑战,需要唤起用户对人工智能生成内容负责任使用的意识。
论文网址:https://arxiv.org/abs/2309.02524
AI视野:飞书智能伙伴发布;OpenAI曝光Q*项目;微软12月1日向中国开放Copilot;Grok下周将向x的Premium+订阅用户推出
📰🤖📢AI新鲜事微软12月1日向中国开放Copilot微软将在今年12月1日面向中国大陆的企业和教育机构推出,基于网页的生成式AI聊天助手——Copilot,那些无法使用ChatGPT的小伙伴们可以体验Copilot。【AiBase提要:】1.微软将在12月1日向中国大陆推出基于GPT-4Turbo和DALL·E3最新模型的Copilot,支持文本、图片、表格、代码等功能。站长网2023-11-23 15:56:060001eBay推出AI生成工具,卖家上传图片即可生成产品列表
文章概要:1.eBay最新引入的AI工具可利用卖家上传的图片,自动生成产品标题、描述和相关分类。2.该工具旨在简化销售流程,特别是对新卖家而言,使其无需提供繁琐的产品信息。3.不过卖家对于早期版本的AI工具生成的文本质量的不满。eBay于近日推出了一项全新的AI工具,旨在帮助卖家更轻松地创建产品列表。站长网2023-09-08 11:42:570000互联网时代下 AI 与人类创造力的角逐:当 AI 向 AI 生成数据学习时「模型崩溃」将引发混乱
在大型语言模型(LLM)越来越多地依赖于ChatGPT和其他工具来提高效率的情况下,我们可以预见到未来很大一部分网络内容将由人工智能生成。然而,这可能对大型语言模型的未来构成严重风险,因为目前它们依赖于从网络上抓取的人类生成数据。站长网2023-06-15 12:26:520002外滩大会今日开幕 生成式AI成为热议话题
2023Inclusion·外滩大会9月7日在上海黄浦世博园正式开幕。这场以“科技·创造可持续未来”为主题的大会为期三天,近20位“两院”院士、诺贝尔奖和图灵奖得主,全球超500位有影响力的科技领军企业和专家学者,将在此带来一场科技、人文和产业的思想碰撞。站长网2023-09-07 13:03:330000上线「话炉」,字节加入AI社交混战
产品模式上,在AI虚拟角色这条路径上,「话炉」甚至算是晚入局者。2023年1月起,初创公司MiniMax先后推出Glow、Inspo两款AI社交应用,并在8月正式上线「星野」APP。此外,已经有多家大厂布局AI社交产品,腾讯的「未伴」、阅文「筑梦岛」、美团「WOW」、QQ也在内测「AI聊天搭子」功能。近日,字节跳动上线了云雀大模型驱动的AI社交APP「话炉」,由内部团队Flow开发。站长网2024-03-25 11:25:360000