资讯动态

本地部署DeepSeek避坑指南:ollama环境变量与Chatbox接入实战

发布时间:2026/10/26 22:00:52 来源:尧图企业网站定制
简介这份PDF教程面向希望在个人电脑上搭建私有AI环境的开发者与小型企业用户系统讲解如何借助ollama工具完成DeepSeek的本地部署重点解决默认只能装在C盘、命令行操作门槛高、新手无从下手等实际问题。资源包共1个PDF文件约802KB内容涵盖环境变量修改以改变模型存储路径、开放访问权限与防火墙端口放行、不同参数量模型的安装命令选择以及用Chatbox美化交互界面等完整环节步骤配图详尽计算机新手也能按图操作。教程还针对内存与存储空间给出模型规格的选型建议并说明安装成功标识与基础对话方法帮助读者在保障数据私密性的前提下快速跑通本地推理流程。目前已有1531人学习适合想低成本体验人工智能、重视数据安全的个人开发者对照实践。1. 本地部署 DeepSeek为什么我劝你先别急着敲ollama run上周有个做后端的朋友找我说他花了一晚上在本地跑 DeepSeek结果模型全塞进了 C 盘系统盘直接红了聊天界面还连不上。这事儿其实特别典型——网上大部分教程只告诉你敲一行ollama run deepseek-r1:7b却没人讲清楚模型文件默认落在哪、端口为什么连不通、8b 和 14b 到底该选哪个。这份本地部署 DeepSeek 教程的价值就在这儿它把「非 C 盘安装」「可视化界面」「防火墙放行」这几个真正会翻车的点拆开了用 ollama 做运行时、Chatbox 做前端让一台普通 Windows 电脑变成一个私有 AI 终端。适合谁手里有 16GB 内存以上机器、想把资料喂给模型做本地检索分析、又不想把数据传到云端的开发者和从业者。下面我按自己复现的顺序把每一步的参数和坑都摊开讲。2. 环境准备与 ollama 安装把模型从 C 盘挪走的三个环境变量2.1 为什么选 ollama 而不是自己编译推理框架本地跑大模型的路子其实不少llama.cpp 要自己编译量化、vLLM 对 Windows 支持一般、LM Studio 图形化但可配置项偏少。ollama 的定位很像「模型运行时管理器」——它把模型权重、量化格式、推理后端打包成一个命令就能拉取的东西对 Windows 用户友好而且支持通过环境变量改存储路径和监听地址。这份教程选它本质是选了一个「装完就能用、还能改配置」的底座。需要先明确一点ollama 的 Windows 安装包默认把程序装进用户目录模型权重默认落在C:\Users\用户名\.ollama\models。一个 7b 的模型量化后大约 45GB14b 接近 9GB32b 直接 20GB 起步。如果你 C 盘只剩二三十个 G装两个模型就爆了。所以教程里那三个环境变量不是可选项是必做项。2.2 三个环境变量的含义与设置顺序在 Win11 左下角搜索「环境变量」进「编辑系统环境变量」→「高级」→「环境变量」在「用户变量」区域新建。三个变量的作用如下变量名建议值作用OLLAMA_MODELSD:\ollama\models改模型权重存储目录避开 C 盘OLLAMA_HOST0.0.0.0:11434让 ollama 监听所有网卡浏览器和 Chatbox 才能访问OLLAMA_ORIGINS*放开跨域来源限制否则前端请求会被拦设置完记得去 D 盘手动建好D:\ollama\models这个目录变量值指向的路径不存在时ollama 启动会回退到默认目录这是很多人以为「设置了没生效」的真正原因。三个变量填完后点确定保存必须重启电脑环境变量对已运行的服务不生效。提示OLLAMA_ORIGINS填*只适合本机或可信内网使用。如果这台机器要暴露到局域网建议改成具体的前端地址别图省事。2.3 防火墙放行 11434 端口ollama 默认监听 11434。Windows 防火墙默认会拦入站连接表现就是 Chatbox 里模型列表一片空白。操作路径搜索「高级安全 Windows Defender 防火墙」→ 左侧「入站规则」→ 右侧「新建规则」→ 选「端口」→ TCP → 特定本地端口填11434→ 允许连接 → 域、专用、公用三个都勾上 → 名称写ollama 11434。这里有个细节如果你在OLLAMA_HOST里把端口改成了别的比如教程作者改成 11438防火墙规则里的端口必须同步改否则规则形同虚设。改完端口后 Chatbox 里的 API 地址也要跟着改三处必须一致。3. 拉取 DeepSeek 模型参数量选择和显存内存的真实账3.1 先验证 ollama 是否真的在跑重启后按Win R输入cmd先敲一个裸命令ollama正常会打印出可用子命令列表serve、run、list、pull 等。如果提示「不是内部或外部命令」说明安装没进 PATH去开始菜单手动启动一次 ollama或者重装时勾选加入 PATH。确认能跑之后再看已安装模型ollama list刚装完是空列表这是正常的。如果这一步就报连接错误八成是 ollama 后台服务没起来去开始菜单点一下 Ollama 图标托盘出现羊驼标志才算就绪。3.2 参数量怎么选别只看内存要看「内存 可用显存」教程里给了一张 b 数对照我把它翻译成实际决策表。DeepSeek-R1 的蒸馏版本常见有 1.5b、7b、8b、14b、32b、70b量化后大致占用如下模型量化后体积约最低内存建议实际体验deepseek-r1:1.5b1.1GB8GB能跑回答偏短适合验证链路deepseek-r1:7b4.7GB16GB日常问答可用速度可接受deepseek-r1:8b5.2GB16GB比 7b 略强16GB 机器会稍卡deepseek-r1:14b9GB32GB质量明显提升需独显或大内存deepseek-r1:32b20GB64GB消费级机器基本别想流畅deepseek-r1:70b40GB128GB工作站级别教程作者 16GB 内存装 8b「稍显卡顿」、最后选 1.5b这个取舍是合理的——如果你的机器没有独立显卡模型主要靠 CPU 推理参数量越大 token 生成越慢7b 在纯 CPU 上可能只有每秒几个 token聊天体验会很煎熬。我的建议是先用 1.5b 把整条链路跑通确认 Chatbox 能连上、能对话再换 7b 试速度。别一上来就拉 14b下载几个 G 等半天结果发现卡得没法用。3.3 拉取与首次运行选定后执行对应命令以 7b 为例# 拉取并进入交互式对话首次会自动下载权重 ollama run deepseek-r1:7b下载进度会显示在命令行里完成后出现Send a message (/? for help)提示符就代表模型加载成功可以直接输入问题测试。想退出交互模式输入/bye。其他尺寸把冒号后的标签换掉即可比如ollama run deepseek-r1:14b。注意下载中断后重新执行同一命令会续传不用删缓存。但如果中途改过OLLAMA_MODELS旧模型还在原目录新目录里ollama list是看不到的需要重新拉或者手动迁移models文件夹。4. Chatbox 接入 ollama把命令行对话变成可视化界面4.1 安装时的「所有用户」选项别选错Chatbox 从 ollama 中文网的下载分类里拿安装包即可。安装过程中有一个「选择用户」的界面教程特别强调选「所有用户」而不是「仅为我安装」。这个不是玄学——选「仅为我安装」时程序装在当前用户目录某些情况下环境变量和防火墙规则的继承会出问题表现为软件能开但连不上本地 API。选「所有用户」装到 Program Files 下权限和网络访问更干净。4.2 配置本地 API 地址与模型选择启动 Chatbox首页选「使用自己的 API Key 或本地模型」然后选「Ollama API」。关键在两个字段API 地址默认http://127.0.0.1:11434。如果你改过OLLAMA_HOST的端口这里要同步改比如http://127.0.0.1:11438。模型点下拉框正常情况下会自动列出ollama list里的模型。选中deepseek-r1:7b保存。如果模型下拉框是空的按这个顺序排查先确认ollama list在命令行能看到模型再确认OLLAMA_HOST和防火墙端口一致最后检查 Chatbox 里 API 地址有没有多写斜杠或用了localhost而系统解析异常换成127.0.0.1往往就好了。4.3 用本地文档做检索分析的实操路径界面跑通后Chatbox 支持上传文档、图片、添加网页链接。做本地资料分析时我的习惯是先把 PDF 或 Markdown 拖进对话框再提问「总结这份文档的三个核心结论并标注出处段落」。这里要泼一盆冷水——1.5b 和 7b 这类小模型的长文档理解能力有限喂几万字进去容易答非所问更稳的做法是先把文档切成章节一次喂一章。另外每次问答前确认 ollama 托盘图标在运行Chatbox 本身不启动模型服务它只是个前端。5. 避坑排查本地部署最容易翻车的五个地方5.1 现象设置完OLLAMA_MODELS模型还是往 C 盘装原因变量建在了「系统变量」但值写错或者目标目录不存在导致 ollama 回退默认路径也可能是设置后没重启服务。解决确认变量在「用户变量」或「系统变量」里存在且拼写完全一致大小写敏感手动创建D:\ollama\models目录然后任务管理器里结束 ollama 进程再从开始菜单重启最后用ollama list和资源管理器看新目录是否出现blobs文件夹。5.2 现象Chatbox 模型列表空白提示连接失败原因九成是端口没放行或OLLAMA_HOST没生效。解决浏览器直接访问http://127.0.0.1:11434能返回Ollama is running说明服务正常问题在 Chatbox 的地址配置访问不了就回去查防火墙入站规则和OLLAMA_HOST值改完端口三处变量、防火墙、Chatbox必须同步。5.3 现象模型下载到一半报错重试又从零开始原因网络抖动导致分片下载失败或者磁盘空间不足。解决先看目标盘剩余空间是否大于模型体积的两倍下载 解压临时占用空间够就重试ollama 对已完成的 blob 会跳过。反复失败可以换时间段重试别频繁删缓存目录。5.4 现象对话时风扇狂转、回复一个字一个字蹦原因模型参数量超出硬件承载纯 CPU 推理且内存吃紧时会频繁换页。解决换小一号模型关掉其他吃内存的程序有独显的话确认 ollama 是否识别到 GPU启动日志里会打印没识别到就更新显卡驱动。5.5 现象重启电脑后 Chatbox 又连不上原因ollama 没有设置开机自启托盘服务没起来。解决把 ollama 快捷方式放进启动目录Win R输入shell:startup或者每次用前手动从开始菜单启动。这是最常见也最容易被忽略的一条别问我怎么知道的。6. 进阶技巧用Modelfile固化系统提示词与参数链路跑通之后每次对话都手动输入「你是一个严谨的技术助手」很烦。ollama 支持用 Modelfile 把系统提示词、温度、上下文长度固化成一个自定义模型这是把本地部署从「能玩」推到「好用」的关键一步。新建一个文本文件命名为Modelfile无扩展名内容如下# 基于已拉取的 deepseek-r1:7b 派生 FROM deepseek-r1:7b # 固化系统提示词省去每次手动输入 SYSTEM 你是一名严谨的中文技术助手。回答时先给结论再给依据 涉及代码必须标注语言并说明关键参数不确定的内容明确说不知道。 # 温度调低技术问答更稳定上下文窗口按内存酌情给 PARAMETER temperature 0.3 PARAMETER num_ctx 8192在同目录下执行构建命令# mytech 是自定义模型名末尾的点表示当前目录的 Modelfile ollama create mytech -f ./Modelfile构建完成后ollama list里会多出mytechChatbox 里选中它即可。几个参数说明temperature越低输出越确定技术问答建议 0.20.4num_ctx是上下文窗口调大更吃内存16GB 机器给 8192 比较稳别盲目拉到 32768。想改提示词就编辑 Modelfile 重新create同名会覆盖。验证是否生效有个笨办法但很可靠问一个需要遵守格式的问题比如「用表格列出三种排序算法的时间复杂度」看输出是否稳定符合系统提示里的「先结论后依据」。如果回答风格没变多半是 Chatbox 里还选着旧模型或者create时文件名拼错导致读的是默认配置。从那以后我每次部署新模型都会先用 1.5b 把「环境变量 → 防火墙 → Chatbox 连通 → Modelfile 固化」这条链路完整走一遍确认每一步都有可见的验证信号再换大模型。这套流程帮我省下了不少对着空白界面瞎猜的时间。希望帮到你。本文还有配套的精品资源点击获取

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价 →
↑