AI大模型下载记录

确保python环境

使用winget能方面的下载，不过下载完后命令行环境还没有刷新，cmd或者terminal窗体得重开才能方便使用pip之类的新程序。

// 查看已安装的
winget list python

// 搜索安装包
winget search python

// 安装指定的包
winget install Python.Python.3.12

// 新开一个命令行，用来刷新环境变量

从 huggingface 下载模型数据

官方推荐的应该是 huggingface-cli，先通过python工具安装它。

// pip install -U huggingface_hub
// 如果环境变量未更新，还是同理重开命令行。

安装后，接下来就是找一个大模型下载了，不过 huggingface 可能慢或者被强，这时候可以通过代理站点下载，如 hf-mirror。

// 通过环境变量修改模型下载站的中转站，power-shell 的写法，cmd写法我不知道怎么玩的。
$env:HF_ENDPOINT = "https://hf-mirror.com"

// 下载一个心仪的模型，如微软的 phi-3。
huggingface-cli download --resume-download --local-dir-use-symlinks False microsoft/Phi-3-mini-4k-instruct-onnx --local-dir D:\temp\Phi-3-mini-4k-instruct-onnx

发现它还有并行下载文件的能力呢，好几个进度条。
下载之路可能会有些坎坷，因为模型数据很大，和谐网络又很尴尬，所以如果异常中断了，就重新执行‘下载一个心仪的模型’备注的语句（多亏有resume指令），直到完整下载。