Nvidia发布开源工具包NeMo Guardrails,使文本生成式AI“更安全”
站长网2023-04-27 09:50:090阅
为了追求“更安全”的文本生成模型,Nvidia 日前发布了开源工具包NeMo Guardrails,旨在使基于 AI 应用程序更加“准确、合理、切合主题和安全”。
Nvidia 应用研究副总裁 Jonathan Cohen 表示,该公司“多年来”一直致力于 Guardrails 的底层系统,但大约一年前才意识到它非常适用于 GPT-4和ChatGPT等模型。
Guardrails 包括代码、示例和文档,可为生成文本和语音的 AI 应用程序“增加安全性”。Nvidia 声称该工具包旨在与大多数生成语言模型一起使用,允许开发人员使用几行代码创建规则。
具体来说,Guardrails 可用于防止——或至少试图防止——模型偏离主题、以不准确的信息或极为负面的语言做出响应,以及与“不安全”的外部来源建立联系。例如,阻止搜索引擎聊天机器人链接到声名狼藉的学术期刊等等。
Cohen 还指出,Guardrails 最适用于“很擅长执行指令”的模型,例如 ChatGPT,并且使用流行的LangChain框架来构建 AI 驱动的应用程序。然而,Nvidia 承认该工具包并不完美,也无法涵盖所有问题。
虽然 Guardrails 是一个开源版本,但 Nvidia 更希望其它公司为其托管版本付费。
0000
评论列表
共(0)条相关推荐
Amazon Transcribe新一代语音基础模型驱动的ASR系统,支持100多种语言
#划重点1.🎙️**多语言支持:**AmazonTranscribe推出的新一代语音基础模型涵盖100多种语言,提供全面的自动语音识别(ASR)服务。2.🚀**性能提升:**利用语音基础模型,AmazonTranscribe在大多数语言中实现20%至50%的显著准确度提升,尤其在电话语音等挑战性领域中提高了30%至70%的准确度。站长网2023-11-27 10:01:170000对冲基金经理使用 ChatGPT 来进行市场营销和汇总大量报告
根据一项新调查,对冲基金和其他资金管理人员越来越倾向于利用ChatGPT进行市场营销和汇总大量报告。根据法国巴黎银行的报告,44%的资管人员在职业环境中使用这种人工智能工具。大多数人利用ChatGPT生成营销文本,或者总结诸如监管文件或经纪研究报告等大型文档。一些受访的管理人员表示,他们希望利用ChatGPT来分析法律文件。站长网2023-08-01 11:55:420002瑞幸降低员工洗手频率:每两个小时洗手一次
近日,瑞幸咖啡内部发布通知,调整了门店员工的洗手频率标准。据多名网友爆料,之前瑞幸咖啡营业期间每个整点都需要洗手,而现在这一标准更改为每两个小时洗手一次。此前,瑞幸咖啡师的手部问题曾一度成为社交媒体上的热门话题。有网友表示,频繁洗手会给员工带来不便和额外的工作负担。针对这一调整,有网友表示支持,认为这有助于减轻员工的工作负担,提高工作效率。0000美国警方利用AI系统分析毒贩驾驶模式成功抓捕罪犯
最近,纽约的警方利用人工智能技术成功识别和逮捕了一名毒品贩子。警方利用了名为Rekor的公司的服务,该公司使用AI分析区域交通模式,并在分析过程中发现了可疑的行为。站长网2023-07-18 17:22:530001智能视频总结工具BibiGPT 快速提取关键信息
BibiGPT是一款基于人工智能的视频总结工具,通过先进的语言模型和自然语言处理技术,能够自动提取视频和音频的关键信息,生成简洁而准确的摘要。用户只需复制粘贴视频链接或上传本地文件即可获得总结。体验地址:https://bibigpt.co/站长网2023-11-10 17:21:370001