登陆注册

护栏

  • 看不下去AI胡说八道,英伟达出手给大模型安了个“护栏

    大模型们胡说八道太严重,英伟达看不下去了。他们正式推出了一个新工具,帮助大模型说该说的话,并回避不应该触碰的话题。这个新工具名叫“护栏技术”(NeMoGuardrails),相当于给大模型加上一堵安全围墙,既能控制它的输出、又能过滤输入它的内容。一方面,用户诱导大模型生成攻击性代码、输出不道德内容的时候,它就会被护栏技术“束缚”,不再输出不安全的内容。
    站长网2023-05-04 09:24:40
    0000