网络风险公司警告称 ChatGPT 有可能暴露企业机密信息
据彭博消息,根据以色列网络风险公司 Team8 的一份报告,使用 ChatGPT 等生成式人工智能工具的公司可能会将客户的机密信息和商业秘密置于危险之中。
该报告说,新的人工智能聊天机器人和写作工具的广泛采用可能使公司容易受到数据泄露和诉讼的影响。人们担心的是,聊天机器人可能被黑客利用,获取敏感的公司信息或对公司采取行动。还有人担心,现在输入聊天机器人的机密信息将来可能会被人工智能公司利用。
包括微软公司和 Alphabet 公司在内的主要技术公司正在竞相增加生成式人工智能能力,以改善聊天机器人和搜索引擎,在从互联网上搜刮的数据上训练他们的模型,为用户提供一站式的查询服务。报告说,如果这些工具被输入机密或私人数据,那么要消除这些信息将是非常困难的。
「企业使用 GenAI 可能会导致通过用户直接输入或 API 访问和处理敏感信息、知识产权、源代码、商业秘密和其他数据,包括客户或私人信息和机密信息,」报告说,将风险列为 「高」。如果引入适当的保障措施,它将风险描述为「可控」。
Team8 的报告强调,聊天机器人的查询并没有被送入大型语言模型来训练人工智能,这与最近关于这种提示有可能被他人看到的报道相悖。「截至目前,大型语言模型不能实时更新自己,因此不能将一个人的输入返回到另一个人的回应,有效地驳斥了这种担忧。然而,对于这些模型的未来版本的训练来说,这不一定是真的,」它说。
该文件指出了整合生成式人工智能工具的其他三个「高风险」问题,并强调了越来越多的信息通过第三方应用程序共享的高度威胁。微软已经在其必应搜索引擎和微软 365 工具中嵌入了一些人工智能聊天机器人功能。它说:「例如,在用户方面,利用 GenAI API 的第三方应用程序,如果被破坏,有可能提供对电子邮件和网络浏览器的访问,攻击者还有可能冒充用户采取行动。
Team8 认为,使用生成式人工智能有一个「中等风险」,即可能增加歧视,损害公司的声誉,或使其面临版权问题的法律诉讼。
微软公司副总裁 Ann Johnson 参与了该报告的起草工作。微软已经向 ChatGPT 的开发商 OpenAI 投资了数十亿美元。微软发言人说:「微软鼓励在安全和人工智能社区对不断变化的网络风险进行透明讨论。」
数十个美国公司的首席信息安全官也被列为该报告的贡献者。Team8 的报告还得到了美国国家安全局和美国网络司令部前负责人的认可。
荣耀Magic6系列外观公布 将于 1 月 11 日发布
荣耀终端有限公司CEO赵明宣布,荣耀Magic6系列旗舰手机将于1月11日发布,新机预热正式启动。荣耀Magic6系列从历史文明和自然之美中汲取设计灵感,采用简洁而精致的机身设计。赵明率先公布了海湖青配色,这是荣耀Magic6系列外观的首次官方公开。0000FF在湖北黄冈成立新公司 涉及AI行业应用系统集成等业务
天眼查App显示,近日,法法汽车(湖北)有限公司成立,法定代表人为王志刚,注册资本1亿美元,经营范围含道路机动车辆生产、新能源汽车整车销售、汽车零部件研发、智能车载设备制造、人工智能行业应用系统集成服务、代驾服务、工程和技术研究和试验发展等。该公司由FFHongKongHoldingLimited全资持股。站长网2023-08-22 14:14:300000悄悄向淘宝宣战,抖音电商迎来了新的转折点
时代的洪流来得迅猛且凶残,迅猛是因为它可以让刚踏入社会的年轻人靠踩中风口,借趋势完成原始资本积累和阶级跃迁;凶残是因为它也可以无情的淹没那些固步自封不愿改变的老顽固,让保守成为代价和遗憾。小道消息,抖音电商内部分成ABC三个组,A组是品牌客户,B组是产业带,C组是商城。改革了针对商家运营的考核标准——以品牌商家为主的A组更关注GMV;以白牌商家为主的B组更看重订单量。站长网2023-07-12 15:39:570000小米回应智能门锁半夜自己开门:正常上锁状态无自动打开可能
日前,有用户反馈称小米智能门锁青春版经常无故自动开门,甚至在半夜也会自动打开。这一情况引起了网友们的广泛关注和讨论。针对这一问题,小米公司发言人”官微进行了回应,并对相关疑问进行了解答。小米表示,经过查实,相关视频中出现的产品采用的是半自动锁体和直插式C级锁芯,不具备锁舌自动收回功能。这种物理结构决定了房门在正常上锁状态下,不可能自动打开,同时该产品也不支持网络远程开锁。0000OpenAI宫斗终极揭秘!内鬼女董事被曝抢先开除Altman,微软反成最大赢家
今天,外媒纽约客曝出长文揭秘OpenAI动乱始末,女董事HelenToner内鬼身份基本坐实,微软开启ABC三重plan,最终顺利摘桃成最大赢家。OpenAI动乱终极原因,疑似被揭秘!外媒纽约客长文曝出动乱始末,起因疑似是Altman和女董事HelenToner起了龃龉,Altman希望踢掉Helen,但不幸被Helen先发制人。站长网2023-12-03 10:10:060001