如何在Semantic Kernel中使用第三方代理OpenAI API接口
最近手里没有官方的OpenAI API Key了,只能在第三方代理平台去购买API Key。
但是使用Semantic Kernel的时候发现AddOpenAIChatCompletion不像AddAzureOpenAIChatCompletion那样可以选择终结点
去看了下Semantic Kernel项目下的issues,这个问题被提及了好几次,但是官方仍然没有提供Endpoint。不过广大的开发者们想出了应对方法,就是对参数里的HttpClient进行更改。
有很多途径可以把HttpClient请求里的官方API域名改为第三方代理OpenAI域名,但是这里只提及一个我试了可以用的:
- 确保已安装包
Microsoft.Extensions.Http - 先自定义一个 HTTP 消息处理程序(DelegatingHandler),它用于处理 HTTP 请求并在发送请求前对请求进行修改。
- 重写其SendAsync方法,该方法在发送 HTTP 请求时被调用,将请求的目标 URI 修改为了一个新的 URI。
class CustomRedirectingHandler() : DelegatingHandler(new HttpClientHandler())
{
protected override Task<HttpResponseMessage> SendAsync(
HttpRequestMessage request, CancellationToken cancellationToken)
{
request.RequestUri = new UriBuilder(request.RequestUri!) { Host = "api.xxxxxx.com" }.Uri; //替换为第三方代理API的地址
return base.SendAsync(request, cancellationToken);
}
}
然后就可以在注册服务时使用了
var builder = Kernel.CreateBuilder()
.AddOpenAIChatCompletion(model, apiKey,httpClient:new HttpClient(new CustomRedirectingHandler()));
这个时候你拿到的IChatCompletionService就会将请求直接发送到第三方代理OpenAI API
浙公网安备 33010602011771号