看不下去AI胡说八道，英伟达出手给大模型安了个“护栏” | 开源

萧箫发自凹非寺量子位公众号 QbitAI 大模型们胡说八道太严重，英伟达看不下去了。他们正式推出了一个新工具，帮助大模型说该说的话，并回避不应该触碰的话题。这个新工具名叫“护栏技术”（NeMo Guardrails），相当于给大模型加上一堵安全围墙，既能控制它的输出、又能过滤输入它的内容。一