摘要: 利用text-generation-webui快速搭建chatGLM2/LLAMA2大模型运行环境 text-generation-webui 是一个基于Gradio的LLM Web UI开源项目,可以利用其快速搭建各种文本生成的大模型环境。 一、安装 text-generation-webui的readme其实已写得相当详细了,这里就不再重复,只说1个可能存在的坑: 安装 peft 安装卡住 r 阅读全文
posted @ 2023-08-19 17:51 菩提树下的杨过 阅读(3331) 评论(0) 推荐(0) 编辑