ChatGPT转发工具-springboot

背景

国内服务器无法访问openAI接口，我想过有两种实现方式

1. 代理工具类似 tinyproxy、nginx
2. 开发一个转发客户端(java、python都可以实现),提供一个api接口

源码

github仓库 https://github.com/mintonzhang/chatgpt-proxy-server

代码很简单，有手就能实现

使用方式（docker部署的方式）

1. docker-compose

version: '3.1'
services:
  web:
    image: registry.cn-hangzhou.aliyuncs.com/ywja/chatgpt-proxy-server:main
    ports:
      - "19322:8080"
    restart: unless-stopped

将以上代码放在创建成一个 openai-proxy.yml，然后运行docker-compose命令

docker-compose -f openai-proxy.yml up -d

2. 使用docker run的方式启动

docker run --name gpt-proxy -p 19322:8080  -dit registry.cn-hangzhou.aliyuncs.com/ywja/chatgpt-proxy-server:main

最终效果

测试

POST http://你的ip或者域名:19322/apis/v2/chat?apiKey=key

{
"model": "gpt-3.5-turbo",
"messages": [{
	"role": "user",
	"content": "你是谁呀"
}]
}

参数和官网的一模一样

注意事项

1. 部署该服务的服务器需要在别的国家
2. 延迟取决于你的服务器带宽和距离
3. 该项目只做转发服务