2024年1月7日
Windows11下私有化部署大语言模型实战 langchain+llama2
摘要： 一、本机环境 1.硬件环境： CPU：锐龙5600X 显卡：GTX3070 内存：32G 注：硬件配置仅为博主的配置，不是最低要求配置，也不是推荐配置。该配置下计算速度约为40tokens/s。实测核显笔记本（i7-1165g7）也能跑，速度3tokens/s。 2.软件环境： Windows系统版 阅读全文
posted @ 2024-01-07 15:15 阿拉果 阅读(2387) 评论(0) 推荐(1) 编辑