Ollama系列---【ollama使用gpu运行大模型】
摘要:
一、安装CudaToolkit 使用控制台命令查看当前显卡驱动中的cuda版本 nvidia-smi 二、下载CudaToolkit 注意:CudaToolkit版本要低于上面的显卡Cuda版本。 Cuda各版本下载地址:https://developer.nvidia.com/cuda-toolk 阅读全文
posted @ 2025-02-09 19:40 少年攻城狮 阅读(7528) 评论(0) 推荐(0) 编辑