06 2023 档案
ChatGLM-6B int4的本地部署与初步测试
摘要：### 0. 前言 本次笔记是对于实习初期，初次接触到LLM大模型的一些记录。内容主要集中在对于环境的配置的模型的运行。 本人的硬软件配置如下： GPU: RTX3060 6GB显存 内存: 32GB 系统: Windows 11 ### 1. Anaconda3 + Pycharm 的环境搭建 我
Not available
