HTTP方式请求并处理GPT聊天补全接口的流式响应输出
python使用HTTP方式,调用OpenAI的聊天补全的流式响应接口,并处理数据
目的是,如果需要对接fastGPT等其他第三方,需要额外增加参数,或者其他开发语言调用时,不能使用官方的类库。需要自行封装请求方法,那么可以参考代码,增加参数或转成相应语言
import json import requests url = "https://代理域名/v1/chat/completions" # 替换为目标URL data = { "stream": True, "model": "gpt-3.5-turbo", "messages": [ { "role": "user", "content": "你是谁" }, ] } headers = { "Authorization": "Bearer key", } # 使用 with 语句确保请求完成后释放资源 with requests.post(url, json=data, headers=headers, timeout=60000, stream=True) as response: # print(response.headers) for chunk in response.iter_lines(chunk_size=None): mChunk = chunk.decode('utf-8') if "[DONE]" in mChunk: break # print(mChunk) lines = mChunk.splitlines() for line in lines: respStr = line.strip().replace("data: ", "") respContent = "" try: respJson = json.loads(respStr) respContent = respJson["choices"][0]["delta"]["content"] except Exception as e: respContent = "" print(respContent)
十年开发经验程序员,离职全心创业中,历时三年开发出的产品《唯一客服系统》
一款基于Golang+Vue开发的在线客服系统,软件著作权编号:2021SR1462600。一套可私有化部署的网站在线客服系统,编译后的二进制文件可直接使用无需搭开发环境,下载zip解压即可,仅依赖MySQL数据库,是一个开箱即用的全渠道在线客服系统,致力于帮助广大开发者/公司快速部署整合私有化客服功能。
开源地址:唯一客服(开源学习版)
官网地址:唯一客服官网