08 2023 档案

transformer小白入门
摘要：transformer小白入门transformer库是huggingface发布的1个框架，非常好用，很多外行看起来高大上的问题，用它都可以轻松解决，先来看1个小例子： 一、情感分析 from transformers import pipeline classifier = pipeline('sentiment-analy 阅读全文
posted @ 2023-08-20 16:05 菩提树下的杨过 阅读(824) 评论(0) 推荐(0) 编辑
利用text-generation-webui快速搭建chatGLM2/LLAMA2大模型运行环境
摘要：利用text-generation-webui快速搭建chatGLM2/LLAMA2大模型运行环境text-generation-webui 是一个基于Gradio的LLM Web UI开源项目，可以利用其快速搭建各种文本生成的大模型环境。 一、安装 text-generation-webui的readme其实已写得相当详细了，这里就不再重复，只说1个可能存在的坑： 安装 peft 安装卡住 r 阅读全文
posted @ 2023-08-19 17:51 菩提树下的杨过 阅读(3418) 评论(0) 推荐(0) 编辑
chatglm.cpp使用手记
摘要：chatglm.cpp使用手记目前绝大多数LLM模型都是python实现的，运行速度有限（包括ChatGLM2-6b)，幸好有大神将其用C++重写了一遍，让运行速度大大提高。 项目地址：li-plus/chatglm.cpp: C++ implementation of ChatGLM-6B & ChatGLM2-6B (git 阅读全文
posted @ 2023-08-12 23:41 菩提树下的杨过 阅读(6058) 评论(1) 推荐(0) 编辑
windows WSL2避坑指南
摘要：windows WSL2避坑指南对于不想安装windows/linux双系统的朋友来说，WSL2是不错的选择，但在使用过程中可能会遇到一些问题，以下是本人踩过的坑，记录于此： 一、安装前提 1.1 检测windows版本 windows10 版本必须高于 内部版本 19041 ，检测方法 ：Ctrl+R，输入winver查看版本（ 阅读全文
posted @ 2023-08-12 11:30 菩提树下的杨过 阅读(23751) 评论(5) 推荐(9) 编辑