hono openai示例


import 'dotenv/config';
import { Hono } from 'hono';
import { streamText } from 'hono/streaming';
import OpenAI from 'openai';

const openai = new OpenAI({
  apiKey: process.env.OPENAI_API_KEY,
  baseURL: process.env.OPENAI_API_BASE_URL,
});

const app = new Hono()

app.post('/ai', async (c) => {
  const body = await c.req.json<{ prompt: string }>();
  const aiStream = await openai.chat.completions.create({
    model: 'gpt-4o-mini',
    messages: [{ role: 'user', content: body.prompt }],
    stream: true,
  });
  return streamText(c, async (stream) => {
    for await (const chunk of aiStream) {
      stream.write(chunk.choices[0]?.delta?.content ?? '');
    }
  });
})

export default app
posted @   卓能文  阅读(19)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· 分享一个免费、快速、无限量使用的满血 DeepSeek R1 模型,支持深度思考和联网搜索!
· 基于 Docker 搭建 FRP 内网穿透开源项目(很简单哒)
· ollama系列01:轻松3步本地部署deepseek,普通电脑可用
· 按钮权限的设计及实现
· 25岁的心里话
点击右上角即可分享
微信分享提示