Fork me on GitHub
2023年4月23日
pytorch在有限的资源下部署大语言模型（以ChatGLM-6B为例）
摘要： pytorch在有限的资源下部署大语言模型（以ChatGLM-6B为例） Part1知识准备 在PyTorch中加载预训练的模型时，通常的工作流程是这样的： my_model = ModelClass(...)state_dict =torch.load(checkpoint_file) 用简单的话 阅读全文
posted @ 2023-04-23 09:38 西西嘛呦 阅读(4092) 评论(0) 推荐(2) 编辑