摘要: # Nginx反向代理服务流式输出设置 # 1.问题场景 提问:为什么我部署的服务没有流式响应 最近在重构原有的GPT项目时,遇到gpt回答速度很慢的现象。在使用流式输出的接口时,接口响应速度居然还是达到了30s以上。 # 2.现象分析 分析现象我发现,虽然前端还是流式打印的结果,但是,好像是接口处 阅读全文
posted @ 2023-08-15 16:03 raokun 阅读(803) 评论(0) 推荐(1) 编辑