2024年6月13日
用fastapi和sse创建流式输出接口
摘要： 示例为调用huggingface的大模型，使其流式输出 from fastapi import FastAPI, Request import requests import json import os from pydantic import BaseModel from transformer 阅读全文
posted @ 2024-06-13 09:49 Mrterrific 阅读(671) 评论(0) 推荐(0) 编辑