AI前哨|AI也有“黑匣子”?ChatGPT背后都藏着什么秘密?
凤凰网科技讯 《AI前哨》北京时间5月29日消息,对于一些人来说,“黑匣子”(black box,也称黑盒子)这个词会让人想起飞机上的飞行记录器。如果发生不堪设想的事情,这些设备对事后分析很有价值。但是在人工智能(AI)领域,黑匣子也是一个重要的术语。
什么是AI黑匣子?
AI黑匣子,指的是内部运作原理对用户不可见的AI系统。人们可以向它们提供输入并获得输出,但是不能检查产生输出的系统代码或逻辑。
机器学习是AI的主要分支,它是聊天机器人ChatGPT和图像生成器DALL-E 2等生成式AI系统的基础。机器学习有三个组成部分:一个算法或一组算法、训练数据以及模型。算法是一组程序。在机器学习中,算法在接受大量示例(训练数据)的训练后学会识别模式。一旦机器学习算法被训练,成果就是一个机器学习模型。模型就是人们使用的东西。
例如,人们可以设计一个机器学习算法来识别图像中的模式,训练数据可以是狗的图像,由此产生的机器学习模型将是一个狗的识别器。你可以给它一个图像作为输入,并获得输出,判断图像中是否存在一只狗,以及图像中哪些像素组成了一只狗。
黑匣子是在“黑箱作业”
机器学习系统的三个组成部分中的任何一个都可以被隐藏起来,或者成为一个黑匣子。通常情况下,算法是公开的,所以把它放入黑匣子中的效果并不理想。因此,为了保护知识产权,AI开发者通常会将模型放入黑匣子中。软件开发者采取的另一种方法是对用于训练模型的数据进行模糊处理。换句话说,将训练数据放入黑盒子中,以防止它被泄露。
黑匣子算法让外界很难理解AI是如何工作的,但情况并非完全是这样。
黑匣子的反面有时被称为玻璃匣子(glass box,又称玻璃盒子,指的是内部运作透明)。AI玻璃匣子是一个系统,其算法、训练数据和模型对任何人都是可见的。然而,研究人员有时会将这些玻璃匣子的某些方面描述为黑匣子。
这是因为研究人员并不完全了解机器学习算法,尤其是深度学习算法是如何运作的。可解释的AI领域正在努力开发算法,虽然不一定是玻璃匣子,但可以被人类更好地理解。
黑匣子的弊端
在许多情况下,人们有充分的理由警惕黑匣子机器学习算法和模型。假设一个机器学习模型对你的健康状况做出了诊断,你想要黑匣子还是玻璃匣子呢?对于给您开具治疗方案的医生,也许她想知道模型是如何作出决策的。
如果一个决定你是否有资格从银行获得商业贷款的机器学习模型拒绝了你,该怎么办?你不想知道为什么吗?如果你知道了原因,你可以更有效地上诉决定,或者改变你的情况,以增加你下次获得贷款的机会。
黑匣子对于软件系统安全也有重要的影响。多年来,计算机领域的许多人认为,将软件保存在黑匣子中可以防止黑客检查它,因此它是安全的。这种假设在很大程度上被证明是错误的,因为黑客可以对软件进行逆向工程。也就是说,通过密切观察软件的工作原理来构建一个副本,并发现可利用的漏洞。
如果软件是在一个玻璃匣子里,那么软件测试人员和善意的黑客可以检查它,并告知创建者它的弱点,从而最大限度地减少网络攻击。凤凰网科技《AI前哨》对此将持续关注。
群智感知 为桥梁延寿——使用智能手机监测桥梁结构健康
美国麻省理工学院的研究人员开发了一款基于Android系统的手机应用程序,并在金门大桥上成功完成测试。用手机程序可在车辆通过桥梁时采集有效数据,然后与桥梁健康监测传感器收集到的数据进行比对,结果表明,两组数据抓取的桥梁振动信息完全相同。预计,智能手机监测可使桥梁结构寿命延长15%至30%,成为一种潜在的桥梁养护监测工具。低廉且高效的数据采集方法站长网2023-05-24 22:56:490002鸿海董事长刘扬伟:预计今年下半年 AI 服务器市场增长可能达到 100% 以上
鸿海董事长刘扬伟周三在年度股东大会上说,鸿海的最新AI服务器搭载了英伟达的芯片,2022年鸿海服务器营收达到1.1万亿元新台币(约358亿美元),占据全球四成市场。刘扬伟表示,随着ChatGPT等AI技术使用率越来越高,预计今年下半年AI服务器的市场增长可能达到100%以上。同时,他还表示,今年鸿海三大运营方向是电动车、半导体与低轨卫星。站长网2023-06-01 14:54:580000一碗「番茄肥牛饭」的 AI 之旅
很多走在前沿的企业正在用AIGC辅助进行快速进化,并在用更短的时间进行弯道超车。比如这次我们要聊的这家餐饮公司,认识他们,可以先从一些数据开始:-关于小红书推广,使用AI数字员工后,至少能帮助节省1个运营人员、2个文案、3个设计,大大降低了成本。-关于新品研发,使用AI工具后,周期缩短的同时,判断也更精准了。之前仅做产品调研就要用一个月,现在几天就能快速决策和搞定。站长网2023-12-27 12:17:160000You.com AI搜索与浏览应用全新升级,已成为iOS17.4欧盟用户的默认浏览器之一
**划重点:**1.🆕You.comAI搜索与浏览应用成为欧盟iOS17.4的默认浏览器,标志着其在全球的不断普及和对先进AI驱动的网络搜索和浏览体验的承诺。2.💬CEORichardSocher表示,You.com不仅更新了功能,还通过引入“AskAI”功能和全新直观的应用设计,提升了在线信息检索的方式,旨在使用户更加高效、创造性和卓越。站长网2024-03-06 14:20:430000摩根士丹利:如果英伟达是人工智能泡沫的代名词 那么它已接近顶峰
站长之家(ChinaZ.com)8月8日消息:摩根士丹利策略师表示,人工智能股票泡沫即将达到顶峰,他们指出英伟达公司今年股价上涨超过200%。站长网2023-08-08 10:26:060000