IBM研究发现: AI语音克隆可劫持合法通话进行诈骗
**划重点:**
1. 🚨 IBM研究发现,利用生成式AI工具,黑客可以相对轻松地劫持语音通话,构成新的威胁。
2. 💳 对金融机构等使用电话验证身份的组织而言,使用低成本AI工具,骗子能够轻松冒充他人的声音,窃取资金和其他敏感信息。
3. 🛡️ "音频劫持"是一种新的威胁,威胁行为者可在进行中的对话中使用语音克隆操纵大型语言模型。
近期,IBM研究人员发现了一种相对简单的方法,可以利用生成式AI工具劫持语音通话。这一发现引发了对金融机构等依赖电话验证身份的组织的担忧。利用低成本的AI工具,骗子们现在可以轻松地冒充他人的声音,劫持正在进行的对话,以窃取资金和其他敏感信息。
图源备注:图片由AI生成,图片授权服务商Midjourney
这项新的威胁被IBM的研究人员称为“音频劫持”,威胁行为者可以使用语音克隆在进行中的对话中操纵大型语言模型。为了实施这一威胁,威胁行为者需要首先在受害者的手机上安装恶意软件或者破坏无线语音通话服务,然后连接到他们自己的AI工具。
具体而言,AI聊天机器人接收一个简单的提示,告诉它在听到特定关键短语时如何回应。在这个案例中,短语是“银行账户”。聊天机器人扫描每个通过被侵入的电话或语音通话服务传递的对话,寻找这个关键词。一旦它听到了,聊天机器人就被指示用受害者的克隆声音说出不同的短语。在这种情况下,机器人将受害者的银行账号替换为攻击者的账号,使得存款进入错误的账户。
IBM安全部首席威胁情报架构师Chenta Lee在报告中指出:“LLM的修改不仅限于财务信息,还可以修改会话中的医疗信息,如血型和过敏;它还可以命令分析师买卖股票;它还可以指示飞行员重新规划飞行路线。”
尽管在IBM的实验中,研究人员仍然面临一些障碍,比如语音克隆的响应有时会有延迟,因为它需要访问文本到语音API和告诉它做什么的聊天机器人。此外,并非所有语音克隆都令人信服。
为了对抗这一威胁,报告建议任何发现自己接到可疑电话的人重新用自己的话转述并重复对方说过的内容,以验证准确性。这将使聊天机器人困扰,因为它们仍然难以理解基本的会话提示。
个性化扩散模型微调方法DiffuseKronA:个性化扩散模型微调方法,大幅减少参数、合成高质量图像
划重点:⭐️新方法DiffuseKronA采用Kronecker乘积模块,在保持高质量生成的同时,显著减少参数数量。⭐️与现有模型相比,DiffuseKronA在生成图像质量、文本-图像对应性和参数效率方面表现出色。⭐️通过实验和对比,证明DiffuseKronA相比LoRA-DreamBooth更稳定、更具可解释性,且在参数效率和模型稳定性上表现更优。站长网2024-02-28 15:40:240000可达30mm:新版NFC计划扩大6倍接触范围
快科技6月24日消息,近日,负责制定NFC相关技术标准的NFCForum(NFC论坛),终于发布了该技术未来五年的规划蓝图。根据蓝图,NFC技术下一步的主要发展方向,将是增加使用范围。据悉,当前的NFC技术仅有5mm的接触范围,这意味着两台支持NFC的机器,必须在之间只有5mm距离的时候才能够进行数据交换。站长网2023-06-25 23:21:360000NVIDIA DGX Cloud现在可强化Genative AI训练
英伟达发布消息,NVIDIADGXCloud作为今年3月推出的一项人工智能超级计算服务,现在可以强化GenativeAI训练,它为企业提供了训练生成性人工智能和其他开创性应用所需的基础设施和软件的即时访问。站长网2023-07-26 10:52:180000南洋理工发布视觉可编程智能体Octopus 干家务、玩游戏都拿手
要点:通过在大量视觉输入和可执行代码的数据对的训练,Octopus学会了如何操控电子游戏的角色完成游戏任务,或者完成复杂的家务活动。Octopus通过视觉输入学习、理解真实世界,并以生成可执行代码的方式完成各种实际任务,具备了规划推理和根据实时环境做出反馈的能力。站长网2023-11-09 17:10:040001苹果财报发布 库克称已在研究人工智能多年
苹果今天举行了2023年第三次财报电话会议。在会议上,苹果首席执行官蒂姆·库克和苹果首席财务官卢卡·马埃斯特里分享了有关最近产品销售、服务业绩、未来计划和收入影响的一些细节。站长网2023-08-04 08:59:010000