Ollama系列---【常用属性设置】

常用属性设置

OLLAMA_HOST=0.0.0.0 解决外网访问问题

OLLAMA_MODELS=E:\ollamamodels   解决windows模型默认下载C 盘的问题
OLLAMA_MODELS=/opt/app/middles/ollama/models 指定linux模型存储位置

OLLAMA_KEEP_ALIVE=24h     设置模型加载到内存中保持24个小时(默认情况下，模型在卸载之前会在内存中保留 5 分钟)

OLLAMA_HOST=0.0.0.0:8080  解决无法api访问的问题及修改默认端口11434端口

OLLAMA_NUM_PARALLEL=2  设置2个用户并发请求

OLLAMA_MAX_LOADED_MODELS=2 设置同时加载多个模型