2024年4月19日
使用纯c#在本地部署多模态模型，让本地模型也可以理解图像
摘要： 之前曾经分享过纯c#运行开源本地大模型Mixtral-8x7B 当时使用的是llamasharp这个库和Mixtral的模型在本地部署和推理，前段时间我看到llamasharp更新到了0.11.1版本，可以支持今年2月份开源的 llava-v1.6多模态大模型了，本着尝试一下的想法，就做了集成，不过 阅读全文
posted @ 2024-04-19 17:27 a1010 阅读(1358) 评论(3) 推荐(5) 编辑