高通和微软合作构建 Snapdragon 计算平台上的生成式人工智能
在 Microsoft Build 2023 活动中,高通技术公司展示了其在设备上人工智能方面的最新创新,包括在 Snapdragon 计算平台上运行生成式人工智能,并为在搭载 Snapdragon 的 Windows 11 PC 上构建应用程序的开发者提供新的路径。
高通技术公司产品管理高级副总裁 Ziad Asghar 表示:「要使生成式人工智能真正成为主流,大部分推理过程需要在边缘设备上执行。」「我们一流的人工智能硬件和软件使开发者能够充分利用我们强大的人工智能能力,在搭载 Snapdragon 的笔记本电脑、手机和其他设备上提供令人难以置信的全新用户体验。」
人工智能的未来需要同时涵盖设备上和云端的应用。在设备上运行人工智能应用可以提高成本效益、隐私性、个性化和延迟。Snapdragon 平台包括专用的高通 AI 引擎,可以比在 CPU 或 GPU 上纯粹进行处理更高效地处理 AI 工作负载,使得即使在小型、薄型和轻型设备上也可以实现设备上人工智能。
在 Microsoft Build 活动上,高通技术将展示演示和提供工具,以帮助开发下一代 Windows 11 PC 上的生成式人工智能。Stable Diffusion 是一个文本到图像的生成式人工智能模型,具有超过 10 亿个参数,现在可以完全在本地设备上运行,该公司表示未来几个月内将能够在设备上运行具有高达 100 亿个参数的模型,包括大型语言模型。为增强高通 AI 堆栈并帮助开发者创建下一代设备上人工智能体验,高通 AI 引擎直接软件开发工具包将首次向公众提供。借助 ONNX Runtime 和高通 AI 堆栈,您可以在 Surface Pro 9 5G 和 Lenovo ThinkPad x13s 上的 Snapdragon 8cx Gen 3 AI 引擎上运行您的人工智能工作负载。
微软 Windows Silicon 和系统集成企业副总裁 Pavan Davuluri 表示:「扩展人工智能到广阔的设备和应用程序领域需要云端和设备处理的共同努力。」「通过将微软的云端人工智能领导地位和 Windows 平台的能力与高通技术的设备上人工智能专业知识结合起来,我们将加速生成式人工智能体验的机会。」
微软新工具LLMLingua-2:可将 AI 提示压缩高达80%,节省时间和成本
划重点:🔍微软研究发布了LLMLingua-2,一种用于任务不可知压缩提示的模型,可以将原始长度减少高达20%,从而降低成本和延迟。📊LLMLingua-2通过智能压缩长提示,去除不必要的词语或标记,同时保留关键信息,使得提示长度可减少至原长度的20%。站长网2024-03-25 12:33:460000网易游戏寒假限玩通知:寒假可玩总时长仅16小时
网易游戏近日发布通知,对2024年寒假期间未成年人的游戏时间做出限制。根据通知,未成年玩家在整个寒假期间,即2月9日至17日,每天只能在20-21时体验游戏。这意味着,整个寒假的游戏时长仅有16小时。为便于家长对孩子游戏行为的管理,网易游戏还推出了“网易未成年人护航平台”,家长可随时查看、管理孩子的游戏时长和消费记录。同时,家长还可以在游戏内开启“未成年人模式”,进一步规范孩子的游戏行为。站长网2024-01-24 11:19:500000贾跃亭所持乐视股票再拍卖 4900万股估值9折起拍
据阿里拍卖显示,西安铁路运输中级法院将于7月28日10时至7月29日10时在阿里资产平台上公开拍卖一批贾跃亭持有的乐视股票。本次拍卖的股票共4899.9998万股,拆分为48个100万股的标的和一个99.9998万股的标的,一共49个标的。每个标的股占比为1.23%。这些股票性质为挂牌后个人类限售股,过户后可解除限售。站长网2023-07-24 22:17:300000任正非称华为产品不够先进不会拿出来卖:卖不了高价 养不活队伍
近日,任正非在与南开大学新闻与传播学院院长刘亚东的访谈中透露了华为当前的经营状况和发展思路。任正非强调,华为不会拿出不够先进的产品进行销售,卖不了高价,我也养不活队伍。他坦言,在当前严峻的外部环境下,华为将面临越来越多的困难,但同时也将迎来更加繁荣的局面。站长网2023-09-22 09:58:390001微信治理涉企业不实信息 打击虚构企业家私生活话题等行为
微信发布关于治理涉企业不实信息的公告称,将重点针对假冒仿冒、散布不实信息等违规行为,集中整治涉企业、企业家的虚假不实和侵权信息,严厉打击恶意炒作行为,并依法处置侵害企业、企业家合法权益的内容及帐号,营造清朗的网络空间。重点治理内容:1、假冒仿冒他人企业名称、注册商标、品牌等开设网站、注册账号、上架APP和小程序等。2、编造、传播企业虚假信息和误导性信息,渲染丑化、煽动抵触国有经济、民营企业。站长网2023-06-16 19:39:560000