guardrailsai llm 校验工具

guardrails ai 提供了的llm 校验能力,同时提供了一个hub 平台,可以方便使用一些现成的validators

特性

  • guardrails ai 对于input 以及output 进行check,确保数据的准确性,减少风险
  • guardrails ai 可以帮助生成结构化数据
  • 包含了一个兼容openai 的server

参考使用

说明

对于结构化输出以及函数调用,数据的准确性还是很重要的,可以尝试下guardrails

参考资料

https://www.guardrailsai.com/docs
https://github.com/guardrails-ai/guardrails
https://hub.guardrailsai.com/
https://www.guardrailsai.com/docs/getting_started/guardrails_server
https://www.guardrailsai.com/docs/concepts/deploying

posted on 2024-09-01 06:35  荣锋亮  阅读(16)  评论(0编辑  收藏  举报

导航