2024年8月27日

llama-cpp-agent 通过构结构化输出实现函数调用

摘要: 主要是一个简单测试,记录下 环境准备 需要安装llama-cpp-agent 以及启动一个llama-server 安装 pip install llama-cpp-agent 服务启动 Linux 环境自己编译的llama-server llama-server -m rubra-mistral- 阅读全文

posted @ 2024-08-27 08:00 荣锋亮 阅读(5) 评论(0) 推荐(0) 编辑

导航