在笔记本电脑上跑清华chatglm大语言模型

环境：windows10以上系统，安装Linux子系统

下载这个文件，双击，安装：https://wslstorestorage.blob.core.windows.net/wslblob/wsl_update_x64.msi

sudo sed -i 's/deb.debian.org/mirrors.ustc.edu.cn/g' /etc/apt/sources.list
sudo dpkg-reconfigure locales
sudo apt update
sudo apt install cmake gcc g++ git
这里有几条命令，效果一样，哪个速度快用哪个：
git clone https://ghproxy.com/https://github.com/ztxz16/fastllm.git
git clone https://github.moeyy.xyz/https://github.com/ztxz16/fastllm.git
git clone https://kgithub.com/ztxz16/fastllm.git
git clone https://hub.fgit.gq/ztxz16/fastllm.git
git clone https://gitclone.com/github.com/ztxz16/fastllm.git

继续:
cd fastllm
mkdir build
cd build
有N卡，那么：cmake .. -DUSE_CUDA=ON
无N卡，那么：cmake .. -DUSE_CUDA=OFF
然后：
make -j
最后，从这个链接下载模型文件：https://huggingface.co/huangyuyang/chatglm2-6b-int4.flm/tree/main

按照视频中的操作拷贝
最后: ./webui -p chatglm2-6b-int4.flm --port 1234 输出一个ip地址，访问它