2024-01-03-AI 大模型全栈工程师- Function Calling & Plugins
摘要
2024-01-03 周三 杭州 晴
小记: 2024 AI 完全应用，基于5年工作经验成为 AI 大模型全栈工程师。
思考:
a. 自然语言连接系统的认知，面向未来，思考系统间的集成；
b. 掌握 OpenAI Plugin 的基本原理和市场表现，对行业格局产生一些认知;
c. 掌握 OpenAI Function Calling 的基本用法;
课程内容
1. 接口(Interface)
a. 常规接口: 人机交互接口(UI); 应用程序编程接口(API)
b. 接口规范: 符合使用习惯和逻辑；符合程序管理;
备注: 接口不规范导致的问题，沟通成本，参数对接，文档残缺等等；
2. 接口的演化
a. UI
a.1 命令行（CLI）
a.2 图形界面(GUI)
a.3 语言界面(CUI)
a.4 脑机接口(BCI)
b. API
b.1 远程调用接口(RESTApi等)
b.2 自然语言接口(NLI): 自然语言连接一切
3. Plugin 是什么？
需要 Plugin 是因为 ChatGPT 存在两个缺陷导致的使用插件的需求:
缺陷a: 没有最新信息，大模型训练周期很长;
缺陷b: 没有[真逻辑],绝大多数逻辑是推理获取到的，不一定完全符合人类的思维逻辑;
备注: Plugin 一般是通过 Prompt 实现的，通过插件进行逻辑干预，进而可以达到问题更加精准的匹配；
4. Plugin 失败分析
目前 Plugin 的市场应用是失败的，主要原因如下:
a. 缺少[强 Agent] 调度，仅可以手工选 3 个 plugin ，使用成本太高;
b. 不在[场景] 中，不能提供端到端一揽子服务。（手机就可以退出历史舞台了）
c. 延迟高，响应慢（多次接口调用）
说明: OpenAI 因为 Plugin 存在的问题，因此推出了 Function Calling 功能，协助开发人员更好的开发智能应用；
5. Function Calling 的机制
说明: 实际就是函数回调机制；
6. Function Calling 注意事项
a. 仅有 gpt-3.5-turbo-0613 & gpt-4-0613 可用，此机制只能尽可能保证正确率，不会完全保证不出错；
b. 函数回调的过程将会反复调用 openopi , 接口的调用可是会有费用产生的，因此需要合理调用;
7. Function Calling 的想象空间
a. 任何功能都可以和大模型结合，提供更好的用户体验;
b. 通过大模型，完成内部功能的组合调用，完全 agent 设计系统架构;
备注: 截至 2023年12月，目前国内的大模型并没有支持 Function Calling ，后续应该会支持,Function Calling 应该也会成为大语言模型行业的应用标准;
总结
小记: 通用人工智能时代已经来临，蠢货才会继续写 API 接口呢？这些事情应该由 AI 自动完成。
