10 2023 档案
摘要：# 由于我只能访问hugginface网站，但是不能下载里面的数据，所以编写下面的代码，获取从huggingface下载数据的链接。在从其它路径下载数据。 # 获取huggingface某个模型所有要下载数据的命令行。 # 可以把结果复制到autodl里，进行执行。速度可以达到13M/s # 然后在
阅读全文
摘要：https://zhuanlan.zhihu.com/p/350550546?utm_id=0 一、方案一——随用随改型 输入“pip install xxx”时插入国内镜像源地址，变为“pip install -i 地址 xxx”并回车。 几个常用镜像源： 阿里云：http://mirrors.a
阅读全文
摘要：一、推理：显存计算 推理的显存大头就是：参数量，参数类型版本一般有以下四种： float 32位 浮点数 4 字节 half / BF16 16位 浮点数 2 字节 int8 8位 整数 1 字节 int4 4位 整数 0.5 字节 以 7B-BF16 版本为例，需要显存 = 数量 * 类型大小 =
阅读全文
摘要：安装好了Linux子系统，用户目录是/home/user，C盘目录是/mnt/c。但是这个子系统其实是在C盘上的，如果你要在上面配置一些环境可能会大量占用C盘空间，未来保证系统盘空间充足，我们还要将其迁移到非系统盘。需要一个WSL的管理工具叫LxRunOffline进行迁移。 或者在github下载
阅读全文
摘要：https://blog.csdn.net/sky_jiangcheng/article/details/130982867?spm=1001.2101.3001.6650.2&utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault%
阅读全文
