2023年8月19日
利用text-generation-webui快速搭建chatGLM2/LLAMA2大模型运行环境
摘要： 利用text-generation-webui快速搭建chatGLM2/LLAMA2大模型运行环境 text-generation-webui 是一个基于Gradio的LLM Web UI开源项目，可以利用其快速搭建各种文本生成的大模型环境。 一、安装 text-generation-webui的readme其实已写得相当详细了，这里就不再重复，只说1个可能存在的坑： 安装 peft 安装卡住 r 阅读全文
posted @ 2023-08-19 17:51 菩提树下的杨过 阅读(3685) 评论(0) 推荐(0) 编辑
点击右上角即可分享
微信分享提示