OpenAI ChatGPT函数调用API
函数调用
了解如何将大型语言模型连接到外部工具。
介绍
在 API 调用中，您可以描述函数，并让模型智能地选择输出包含参数的 JSON 对象，以调用一个或多个函数。聊天完成 API 不调用该函数;相反，该模型会生成可用于在代码中调用函数的 JSON。
最新的模型 （ 和 ） 已经过训练，既可以检测何时应该调用函数（取决于输入），也可以使用比以前的模型更紧密地遵循函数签名的 JSON 进行响应。这种能力也带来了潜在的风险。我们强烈建议在代表用户执行影响世界的操作（发送电子邮件、在线发布内容、进行购买等）之前构建用户确认流程。gpt-3.5-turbo-1106gpt-4-1106-preview
本指南重点介绍如何使用 Chat Completions API 进行函数调用，有关 Assistants API 中函数调用的详细信息，请参阅 Assistants 工具页面。
常见用例
函数调用允许您更可靠地从模型中获取结构化数据。例如，您可以：
- 创建通过调用外部 API（例如 ChatGPT 插件）来回答问题的助手
- 例如，定义像 或send_email(to: string, body: string)get_current_weather(location: string, unit: 'celsius' | 'fahrenheit')
- 将自然语言转换为 API 调用
- 例如，将“Who are my top customers？”转换为并调用您的内部 APIget_customers(min_revenue: int, created_before: string, limit: int)
- 从文本中提取结构化数据
- 例如，定义一个名为 的函数，或者extract_data(name: string, birthday: string)sql_query(query: string)
...还有更多！
- 例如，定义一个名为 的函数，或者extract_data(name: string, birthday: string)sql_query(query: string)
函数调用的基本步骤顺序如下：
- 使用用户查询和 functions 参数中定义的一组函数调用模型。
- 模型可以选择调用一个或多个函数;如果是这样，内容将是一个字符串化的 JSON 对象，它遵循您的自定义架构（注意：模型可能会产生幻觉参数）。
- 在代码中将字符串解析为 JSON，并使用提供的参数调用函数（如果存在）。
- 通过将函数响应追加为新消息来再次调用模型，并让模型将结果汇总回给用户。
支持的型号
并非所有模型版本都使用函数调用数据进行训练。以下模型支持函数调用：
-
gpt-4
-
gpt-4-1106-preview
-
gpt-4-0613
-
gpt-3.5-turbo
-
gpt-3.5-turbo-1106
-
gpt-3.5-turbo-0613
此外，以下型号还支持并行函数调用： -
gpt-4-1106-preview
-
gpt-3.5-turbo-1106
并行函数调用
并行函数调用是模型同时执行多个函数调用的能力，允许并行解析这些函数调用的效果和结果。如果函数需要很长时间，这将特别有用，并减少与 API 的往返。例如，模型可以调用函数来同时获取 3 个不同位置的天气，这将导致数组中包含 3 个函数调用的消息，每个函数调用都有一个 .要响应这些函数调用，请向会话添加 3 条新消息，每条消息都包含一个函数调用的结果，并引用 from .tool_callsidtool_call_ididtool_calls
在此示例中，我们定义了一个函数。模型多次调用函数，在将函数响应发送回模型后，我们让它决定下一步。它以一条面向用户的消息作为响应，告诉用户旧金山、东京和巴黎的温度。根据查询的不同，它可能会选择再次调用函数。get_current_weather
如果要强制模型调用特定函数，可以通过使用特定函数名称设置 tool_choice 来实现。您还可以通过设置 来强制模型生成面向用户的消息。请注意，默认行为 （） 是让模型自行决定是否调用函数，如果是，则调用哪个函数。tool_choice: "none"tool_choice: "auto"
在一个响应中调用多个函数调用的示例
令 牌
在后台，函数以模型训练的语法注入到系统消息中。这意味着函数计入模型的上下文限制，并作为输入令牌计费。如果遇到上下文限制，我们建议限制函数的数量或为函数参数提供的文档长度。
如果定义了许多函数，也可以使用微调来减少使用的令牌数量。
