随笔分类 -  【AI】 / 【Ollama】

摘要：链接：https://ollama.com/huihui_ai 链接：https://ollama.com/jaahas/qwen3-abliterated 阅读全文

摘要：一、在线直接从魔搭安装 魔搭社区官网：https://modelscope.cn/models?libraries=GGUF&name=qwen3&page=1&tabKey=libraries #这里的模型下载地址就是魔搭社区的git clone的地址，去掉“.git”后缀，等待下载完成即可。 o 阅读全文

摘要：一、安装CudaToolkit 使用控制台命令查看当前显卡驱动中的cuda版本 nvidia-smi 二、下载CudaToolkit 注意：CudaToolkit版本要低于上面的显卡Cuda版本。 Cuda各版本下载地址：https://developer.nvidia.com/cuda-toolk 阅读全文

摘要：1.环境 本文以centos7.9安装ollama为例 2.下载ollama安装包 官网地址：https://ollama.com/download/linux GitHub手动安装文档地址：https://github.com/ollama/ollama/blob/main/docs/linux. 阅读全文

摘要：常用属性设置 OLLAMA_HOST=0.0.0.0 解决外网访问问题 OLLAMA_MODELS=E:\ollamamodels 解决windows模型默认下载C 盘的问题 OLLAMA_MODELS=/opt/app/middles/ollama/models 指定linux模型存储位置 OLL 阅读全文

摘要：ollama常用命令 1.启动ollama服务 ollama serve 2.创建模型 (create) 使用 Modelfile 来创建一个新模型。你需要提供一个包含模型信息的 Modelfile。 ollama create /path/to/Modelfile 3.显示模型信息 (show) 阅读全文