Ollama启动参数配置
OLLAMA_HOST=0.0.0.0 IP访问限制
OLLAMA_HOST=0.0.0.0:11434 解决无法api访问的问题及修改默认端口11434端口
OLLAMA_ORIGINS=* 访问IP地址白名单限制
OLLAMA_MODELS=E:\ollamamodels windows-模型存储位置
OLLAMA_MODELS=/opt/app/middles/ollama/models 指定linux模型存储位置
OLLAMA_KEEP_ALIVE=24h 设置模型加载到内存中保持24个小时(默认情况下,模型在卸载之前会在内存中保留 5 分钟)
OLLAMA_NUM_PARALLEL=2 设置2个用户并发请求
OLLAMA_MAX_LOADED_MODELS=2 设置同时加载多个模型

浙公网安备 33010602011771号