文章分类 - ai
有关ai算法和大模型相关的内容
摘要:首先考虑使用huggingface的镜像网站:https://hf-mirror.com/ 官网提供了一些解决方案。 由于git不会下载仓库里的模型文件。需要使用lfs拉取模型。 本次使用git+lfs下载 第一步 拉取仓库:git clone https://hf-mirror.com/{仓库名}
阅读全文
摘要:github地址:千问2 调式千问7B的一些问题记录 官方源码: from transformers import AutoModelForCausalLM, AutoTokenizer model_name = "Qwen/Qwen2-7B-Instruct" device = "cuda" #
阅读全文