2023年10月22日
MNN推理LLM
摘要： LLM现在太火了，MNN也终于开源了一个MNN-LLM 项目支持 1 MNN-LLM 编译 1.1 android编译cli_demo 我们先去MNN那儿下载.so库和include/MNN。分别放入libs/和include上。 然后按照readme编译，我写了在windows上交叉编译的脚本。 阅读全文
posted @ 2023-10-22 21:59 SheepHuan 阅读(510) 评论(0) 推荐(1) 编辑