2024年12月20日
mindie-llm 镜像指南
摘要： 制作基于mindie的大模型推理镜像 阅读全文
posted @ 2024-12-20 10:39 badwood 阅读(12) 评论(0) 推荐(0) 编辑
大模型负载均衡
摘要： 通过nginx做大模型负载，提高并发。 阅读全文
posted @ 2024-12-20 10:37 badwood 阅读(9) 评论(0) 推荐(0) 编辑
Badwood's Blog