资讯动态

ollama GPU参数配置

发布时间:2026/10/22 10:00:26 来源:尧图企业网站定制
ollama参数配置ollama下载之后默认的参数配置保守导致偏大一点的AI大模型用不到GPU无法发挥GPU性能需要手动更改参数1. 临时修改该参数配置临时生效重启电脑之后失效以DDR5 6000HZ 32G 4070tisuper 16G为例OLLAMA_GPU_LAYERS34OLLAMA_NUM_GPU1temperature0.2top_p0.9num_ctx4096repeat_penalty1.1num_predict512第一个参数就是修改加载GPU参数的配置2. 永久生效2.1 方法1系统 → 高级系统设置 → 环境变量变量名OLLAMA_GPU_LAYERS变量值32 不要写 30~34只能写一个数变量名OLLAMA_NUM_GPU变量值1重启 Ollama 服务 或 重启电脑2.2 方法2在 PowerShellsetxOLLAMA_GPU_LAYERS32setxOLLAMA_NUM_GPU1 重新打开终端 或 重启

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价 →
↑