英伟达推出 NeMo Guardrails 帮助企业指导和控制 AI 回应
生成式人工智能和大型语言模型(LLMs)的一个主要挑战是用户可能得到不适当或不准确的回应的风险。
英伟达非常了解保护组织及其用户的需要,日前它发布了新的 NeMo Guardrails 开源框架以帮助解决这一挑战。NeMo Guardrails 项目提供了一种方法,使为不同用例(包括聊天机器人)构建和部署 LLM 的组织能够确保响应保持在正轨上。
Guardrails 提供了一套用新的政策语言定义的控制措施,以帮助定义和执行限制,确保人工智能的回应是有主题的、安全的,不会引入任何安全风险。
「我们认为,每个企业都将能够利用生成式人工智能来支持他们的业务,」英伟达应用研究副总裁 Jonathan Cohen 在一次新闻和分析师简报会上说。「但为了在生产中使用这些模型,以安全可靠的方式部署它们非常重要。」
Cohen 解释说, Guardrails (护栏)是一个指南,帮助人类和人工智能之间的对话保持在正轨上。
英伟达对人工智能护栏的思考方式,有三个主要类别,其中有特定的需求。第一类是主题护栏,这都是为了确保人工智能的回应真正保持在主题上。主题护栏也是为了确保回应保持正确的语气。
安全护栏是第二个主要类别,旨在确保回应是准确的,并经过事实检验。还需要对回应进行检查,以确保它们是符合道德的,不包括任何形式的有害内容或错误信息。Cohen 承认人工智能「幻觉」的一般概念,即为什么需要安全护栏。对于人工智能的幻觉,如果 LLM 在其知识库中没有正确的信息,就会产生错误的反应。
英伟达认为需要的第三类护栏是安全。Cohen 表示,随着 LLM 被允许连接到第三方 API 和应用程序,它们可能成为网络安全威胁的一个有吸引力的攻击面。
Cohen 说:「每当你允许一个语言模型在世界范围内实际执行一些行动时,你要监控哪些请求被发送到该语言模型」。
通过 NeMo Guardrails,英伟达正在做的是为组织在部署人工智能驱动的应用程序时考虑的工具和模型的堆栈添加另一层。
Guardrails 框架是部署在用户和支持 LLM 的应用程序之间的代码。NeMo Guardrails 可以直接与 LLM 或 LangChain 一起工作。Cohen 指出,许多现代人工智能应用都使用开源的 LangChain 框架,以帮助建立将来自 LLM 的不同组件连锁起来的应用。
Cohen 解释说,NeMo Guardrails 通过一个复杂的上下文对话引擎,监控与 LLM 驱动的应用程序之间的对话。该引擎跟踪对话的状态,并为开发者提供一种可编程的方式来实现护栏。
NeMo Guardrails 的可编程性是通过英伟达创建的新 Colang 策略语言实现的。Cohen 说,Colang 是一种特定领域的语言,用于描述对话流。
Cohen 称:「Colang 源代码读起来非常像自然语言。这是一个非常容易使用的工具,它非常强大,它让你在本质上用看起来几乎像英语的东西来编写语言模型。」
在推出时,英伟达正在为预建的通用政策提供一套模板,以实现专题、安全和安保护栏。该技术以开源的形式免费提供,英伟达还将为企业提供商业支持,作为 Nvidia AI 企业套装软件工具的一部分。
「我们的目标实际上是使大型语言模型的生态系统能够以安全、有效和有用的方式发展,」Cohen 说。「如果你害怕他们可能说什么,就很难使用语言模型,因此我认为护栏解决了一个重要的问题。」
华为发布面向AI大模型的存储产品 加速AI训练
华为发布面向大模型的存储产品,包括OceanStorA310深度学习数据湖存储和FusionCubeA3000训/推超融合一体机。这两款产品性能密度创新纪录,具备高效率和高性能的特点。华为数据存储团队中的“天才少年”张霁透露了他正在推进的研究课题,包括向量存储、数据方舱、近存计算等。华为在大模型时代下,注重解决数据存储问题,从而加速AI训练。站长网2023-07-20 12:59:290000三年测了多款,三七的第2款三消+在路上了?
三消一直是国内外厂商重点投入的子类,把三消和其他玩法做融合,已经成为标配。但长期观察三消后发现,海外头部厂商和国内出海厂商,在做这件事情时思路又有些不一样。海外厂商整体在大休闲的框架内做融合,三消始终作为主角和变现主力。比如最近Playrix跑出一定成绩的产品「MysteryMatters」,做三消和寻物解谜的融合(此前选题《已经跑出千万月流水,Playrix赌到三消下一个王炸?》)。站长网2024-03-05 18:43:290000微信支持carplay通话 微信iOS 8.0.41正式版发布
昨天,微信iOS平台发布了8.0.41正式版更新,新增了支持CarPlay通话的功能。用户只需将微信更新至最新版本,并确保手机系统为16.6版本,然后将iPhone连接到车载CarPlay,就可以使用微信的通话功能和语音播报。不过需要注意的是,CarPlay目前仅支持拨打和接听语音电话,不支持文字、图片和位置等信息。站长网2023-08-30 10:56:350000百度搜索资源平台发布视频广告避坑指南
百度搜索资源平台发布视频广告避坑指南称,视频广告是很多创作者的进行引流、宣传、推广的一种方式,但是需要注意在视频中不得出现恶意营销和广告作弊的现象。一、避免出现恶意营销内容视频广告要注意不能出现恶意营销内容。恶意营销内容指的是发布以捐款为名义的收藏类信息,以补肾为诱发布健康类的广告推广信息,发布包含荐股类的广告推广信息,其他博彩,封建迷信等夸大、蛊惑虚假推广内容。二、避免出现联系方式站长网2023-06-03 16:23:150000Gartner 预测 2023 年全球 IT 支出将增长 4.3%:生成式 AI 尚未产生重大影响
根据市场调查机构Gartner发布的预测数据,到2023年,全球IT支出预计将达到4.7万亿美元,较2022年增长4.3%。报告指出,企业首席信息官(CIO)在争夺IT人才的竞争中失利,将更多的重心转向实现自动化和效率的技术上,用更少的员工推动更大规模的增长。站长网2023-07-20 17:41:450000