llama-cpp-agent 兼容llama.cpp 以及llama-cpp-python服务的llm工具
摘要：
llama-cpp-agent 兼容llama.cpp 以及llama-cpp-python服务的llm工具 包含的特性 使用简单 结构化输出 单个或者并行函数调用 rag 能力 agent chain 基于grammars 以及json schema 的处理，可以确保大部分7b 的llm 可以支持 阅读全文
posted @ 2024-08-29 07:26 荣锋亮 阅读(33) 评论(0) 推荐(0) 编辑
