LLM Guard:增强LLM安全性的开源工具包 安全使用各种等模型
文章概要:
1. LLM Guard是一个旨在增强大型语言模型(LLMs)安全性的工具包,可轻松集成和部署在生产环境中。
2. 它提供了广泛的评估器,用于LLMs的输入和输出,包括清理、检测有害语言和数据泄漏,以及防止注入和越狱攻击。
3. 该工具包旨在简化公司对LLMs的安全采用,通过提供一站式的必要工具,希望成为市场首选的开源安全工具包。
LLM Guard是一个旨在增强大型语言模型(LLMs)安全性的开源工具包,旨在简化LLMs在企业中的安全采用。它的设计目的是为了轻松集成和部署在生产环境中,为LLMs的输入和输出提供广泛的评估,包括清理、检测有害语言和数据泄漏,以及防止注入和越狱攻击。
尽管LLMs具有提高员工生产力的潜力,但企业对其采纳一直持有疑虑。这种犹豫来自于LLMs存在的显著安全风险,以及在实施这些技术时缺乏控制和可观察性。
LLM Guard的一位创建者Oleksandr Yaremchuk表示:“我们希望成为市场首选的开源安全工具包,通过提供一站式的必要工具,简化公司对LLMs的安全采用。”
LLM Guard已经进行了一些令人兴奋的更新,包括更好的社区文档、对GPU推理的支持,以及最近在HuggingFace上部署的LLM Guard Playground。未来几个月内,他们计划发布安全API(LLM Guard的云版本),重点是确保低延迟性能和强化输出评估。
该工具包可以免费在GitHub上获得。无论使用ChatGPT、Claude、Bard还是任何其他基础模型,现在都可以加强LLM的安全性。
这一工具包的推出将有望促进大型语言模型在企业中的更广泛应用,为企业提供了更好的安全保障和可控性,从而更加自信地采用这一新兴技术。
项目网址:https://github.com/laiyer-ai/llm-guard
Apple开源Apple Silicon机器学习框架MLX
Apple开源的MLX是一个适用于苹果芯片的机器学习框架。它具有许多功能,包括熟悉的API、可组合的函数转换、延迟计算、动态图构建和多设备支持等。站长网2023-12-06 16:49:410002OpenAI 跟进推出版权保护计划:承诺保护客户应对版权侵权诉讼
站长之家(ChinaZ.com)11月7日消息:在业界的期待和社会各界的关注中,OpenAI今日正式宣布推出新的版权保护计划——版权屏障(CopyrightShield)。通过该计划,OpenAI将介入并为使用其产品的企业提供版权侵权辩护,特别是针对OpenAI开发者平台的「普遍可用」功能以及ChatGPT企业版用户所产生的作品。站长网2023-11-07 09:22:120000华为、小米等将淘汰32位应用:逐步清理 适配64位
快科技6月29日消息,32位应用真的要彻底淘汰了。近日,华为开发者官网发布了一项公告,其中提到华为应用市场将全面推行在架应用升级为64位版本。2023年8月1日起,华为应用市场将逐步清理仅支持32位的应用。另外,小米、OPPO、vivo等厂商应用市场此前也已经早早宣布,将于2023年7月1日开始将逐步清理仅支持32位的应用。站长网2023-06-29 23:46:200000消息称字节研发大模型新项目代号O
据Tech星球消息,抖音社交负责人陆游,已经调岗至大模型团队担任相关负责人,向大模型团队负责人朱文佳汇报。另外,字节内部正在研发新的大模型项目,代号“O”。此前,陆游一直在负责抖音的社交体系和项目,任职期间,孵化了多个社交项目,包括此前的虚拟社交功能“抖音仔仔”,以及密友社交“抖音时刻”等。站长网2023-07-20 16:18:010002美国联邦贸易委员会授予自身更多权力,推动AI调查进程
**划重点:**1.📜**强化调查权力:**美国联邦贸易委员会以3-0的投票通过决议,赋予自身在调查声称使用或由AI驱动的产品和服务时使用强制程序的权力,允许要求文档访问。2.💼**AI滥用监管:**委员会认为尽管生成式AI具有许多有益用途,但也可能被滥用,从事欺诈、侵犯隐私等不公平行为,因此希望通过这项权力在未来的贸易监管案件中加速调查。站长网2023-11-23 11:01:570001