创新实训（7）- CodeGeeX 部署

CodeGeeX 的配置

https://modelscope.cn/models/codefuse-ai/CodeFuse-CodeGeeX2-6B

魔塔社区找到 CodeGeeX，绑定阿里云账户，申请免费实例资源

clone 项目

直接安装 requirements.txt，发现出现了版本问题，根据错误信息，问题出在 deepspeed 包的安装过程中，具体是由于 pydantic 的版本不兼容导致的。pydantic 的某些属性在版本 2.x 中发生了变化，而 deepspeed 可能依赖于旧版本的 pydantic。

将 deepspeed 改为最新版本，执行 pip install deepspeed -U，解决问题

之后安装 requirements.txt，成功

部署完成后进行测试，测试代码为让大模型书写归并排序：

得到的结果：

部署

首先，由于 Modelscope 社区不能持久化存储代码，我们将项目迁移到了自行搭建的阿里云 DSW 服务器上，过程和截图略去。

对 DSW 服务器使用 ssh 连接，再进行端口映射