基于GPT搭建私有知识库聊天机器人（五）函数调用
文章链接：
OpenAI在6月13日发布了几个重磅更新，其中包括：
- 开放了16k上下文的GPT-3.5-Turbo模型gpt-3.5-turbo-16k，这是目前模型容量的4倍。
- 发布了新的GPT-4和GPT-3.5-Turbo模型。
- Chat Completions API中新增了函数调用功能，使得实时获取网络数据成为可能。
- embeddings模型的成本降低了75%。
- gpt-3.5-turbo的输入token成本也降低了25%。
本文将重点介绍Chat Completions API新增的函数调用功能。
1、流程和原理
函数调用功能的流程如下：
- 用户发起问题。
- 服务端说明函数作用、参数提取规则
- OpenAI根据规则说明提取参数，并返回给服务端。
- 服务端调用本地函数获取结果。
- 结果返回给OpenAI。
- OpenAI归纳总结后生成答案并返回给用户。
通过这种方式，我们可以在聊天机器人中使用函数调用来实现更加灵活和复杂的业务功能。
2、功能演示
在这里，我们可以展示函数调用功能的一些应用场景，例如从外部API获取实时数据、执行计算任务、进行数据库操作等。这些功能可以根据具体需求进行定制，使聊天机器人能够更好地满足用户的需求。
我这里展示一个通过微信公众号查询汽车票班次的功能：
下面是日志数据：首先是从问题中提取出参数，然后调用本地接口获取班次信息，openai归纳总结后输出答案。
> Entering new chain...
Invoking: `query_bus_by_date` with `{'drv_date': '2023-07-14', 'start_name': '成都', 'target_name': '稻城'}`
[{'boardingAddress': '', 'boardingCode': '', 'boardingName': '', 'busNo': '川A88888', 'busTypeName': '大型高一', 'childSAmount': '500', 'displayExtraFlag': '', 'drvTime': '2023-07-14 20:00', 'endName': '亚丁', 'extraFlag': '0', 'fullPrice': '0.02', 'halfPrice': '130.00', 'isForbid': '0', 'isPassStation': '1', 'isRealNameLine': '1', 'mile': '100', 'motName': 'XXXX', 'passId': '6', 'refundTimeLimit': '', 'schId': '5JhYm', 'schTypeId': '1', 'scheduleType': '1', 'seatAmount': '4998', 'seatTypeName': '', 'signId': 'v21ofWkSTmttd8mVuwxZKL5p', 'startCityName': '成都', 'startCityNo': '510100', 'startDrvTime': '', 'startStationName': '城北客运站', 'startStationNo': 'cbcz', 'stationGuidePrice': '', 'stopAddress': '', 'stopCode': '', 'stopName': '稻城', 'stopTime': '', 'targetCityName': '', 'targetCityNo': '', 'targetStationName': '', 'targetStationNo': '', 'useMinutes': ''}, {'boardingAddress': '', 'boardingCode': '', 'boardingName': '', 'busNo': '川A88888', 'busTypeName': '大型高一', 'childSAmount': '4', 'displayExtraFlag': '', 'drvTime': '2023-07-14 07:30', 'endName': '亚丁', 'extraFlag': '0', 'fullPrice': '0.02', 'halfPrice': '130.00', 'isForbid': '0', 'isPassStation': '1', 'isRealNameLine': '1', 'mile': '100', 'motName': 'XXXXX', 'passId': '6', 'refundTimeLimit': '', 'schId': 'fPDLG', 'schTypeId': '0', 'scheduleType': '1', 'seatAmount': '42', 'seatTypeName': '', 'signId': 'mVpTnMHS7i9ZEQxl9JddzkI4', 'startCityName': '成都', 'startCityNo': '510100', 'startDrvTime': '', 'startStationName': '城北客运站', 'startStationNo': 'cbcz', 'stationGuidePrice': '', 'stopAddress': '', 'stopCode': '', 'stopName': '稻城', 'stopTime': '', 'targetCityName': '', 'targetCityNo': '', 'targetStationName': '', 'targetStationNo': '', 'useMinutes': ''}]
根据查询结果，我找到了两个班次可供选择：
1. 班次号：川A88888，车型：大型高一，出发时间：2023-07-14 20:00，起点：成都城北客运站，终点：稻城亚丁。全票价格为0.02元，半票价格为130.00元。该班次由XXXX运营，共有4998个座位。
2. 班次号：川A88888，车型：大型高一，出发时间：2023-07-14 07:30，起点：成都城北客运站，终点：稻城亚丁。全票价格为0.02元，半票价格为130.00元。该班次由XXXX运营，共有42个座位。
请问您对以上两个班次有什么要求或者偏好吗？
> Finished chain.
3、代码示例
以下代码依旧使用langchain提供的tools实现，读者也可以使用openAI提供的SDK实现。
from langchain.tools import BaseTool
from langchain.chat_models import ChatOpenAI
from langchain.schema import HumanMessage
from langchain.tools import format_tool_to_openai_function
from langchain.agents import AgentType, initialize_agent
from pydantic import BaseModel, Field
from typing import Optional, Type
from datetime import date
import requests
import json
import os
llm = ChatOpenAI(temperature=0, model="gpt-3.5-turbo-0613") #注意这里要用gpt-3.5-turbo-0613模型才能支持函数调用
# 定义入参解析规则
class ScheduleCheckInput(BaseModel):
drv_date: str = Field(..., description="日期，请格式化为yyyy-mm-dd，日期当天从%s开始计算" % date.today())
start_name: str = Field(..., description="起点")
target_name: str = Field(..., description="终点")
class BusTool(BaseTool):
name = "query_bus_by_date"
description = "根据日期查询起止点的班次信息"
def _run(self, drv_date, start_name, target_name):
url = "http://test.test.com/"
data = {"body": {
"startName": "%s",
"targetNo": "%s",
"drvTime": "%s"}
}
json_data = json.dumps(data) % (start_name, target_name, drv_date)
response = requests.post(url, data=json_data.encode("utf-8"))
return response.json().get("body").get("data")
def _arun(self):
raise NotImplementedError("This tool does not support async1")
args_schema: Optional[Type[BaseModel]] = ScheduleCheckInput
def search_schedule(query: str) -> str:
bus_tools = [BusTool()]
open_ai_agent = initialize_agent(bus_tools,
llm,
agent=AgentType.OPENAI_FUNCTIONS,
verbose=True)
return open_ai_agent.run(query)
if __name__ == '__main__':
search_schedule("请帮我查询13号成都到绵阳的班次信息")
总结
本文介绍了OpenAI在6月13日发布的重磅更新中，新增的Chat Completions API函数调用功能。通过函数调用，我们可以在聊天机器人中实现更加灵活和复杂的功能，例如从外部API获取实时数据、执行计算任务等。我们还提供了一个简单的代码示例，演示了如何使用函数调用功能。这些更新为构建强大的私有知识库聊天机器人提供了更多的可能性。
