2024年7月30日
HF transformers 转 OpenAI API（以 chatglm4 为例）
摘要： 服务端： import uvicorn from fastapi import FastAPI from pydantic import BaseModel from transformers import AutoTokenizer, AutoModelForCausalLM, BitsAndBy 阅读全文
posted @ 2024-07-30 17:52 绝不原创的飞龙 阅读(20) 评论(0) 推荐(0) 编辑