guardrailsai llm 校验工具
guardrails ai 提供了的llm 校验能力,同时提供了一个hub 平台,可以方便使用一些现成的validators
特性
- guardrails ai 对于input 以及output 进行check,确保数据的准确性,减少风险
- guardrails ai 可以帮助生成结构化数据
- 包含了一个兼容openai 的server
参考使用
说明
对于结构化输出以及函数调用,数据的准确性还是很重要的,可以尝试下guardrails
参考资料
https://www.guardrailsai.com/docs
https://github.com/guardrails-ai/guardrails
https://hub.guardrailsai.com/
https://www.guardrailsai.com/docs/getting_started/guardrails_server
https://www.guardrailsai.com/docs/concepts/deploying