1. 为什么要在本地跑一个 Copilot断网补全的真实需求GitHub Copilot 好用但有两个绕不开的问题一是按月收费二是代码片段要发到云端。对于在公司内网、离线环境、或者对代码隐私比较敏感的场景这两点都挺致命。我自己在做一个嵌入式项目时就遇到过开发机在隔离网段装不了任何需要外网认证的插件写驱动的时候只能靠记忆敲寄存器名效率低得离谱。后来我换了个思路既然大模型可以本地跑代码补全插件又支持自定义模型接口那为什么不把两者拼起来于是就有了这套方案——用 Ollama 在本地拉起 Llama3再用 CodeGPT 这个 VS Code 扩展把本地模型接进来形成一个完全离线的代码补全助手。断网的时候它照常工作联网的时候我还能通过 TaoToken 的统一 Key 一键切到云端更强的模型做增强。这套组合的核心价值在于三点。第一是离线可用模型权重和推理都在本机不依赖任何外部服务飞机上、内网里、断网应急都能补全。第二是数据不出本机代码上下文只在你自己的机器上流转适合处理不方便外传的工程。第三是混合调度本地 Llama3 负责日常补全和简单解释遇到复杂重构或者需要更强推理时切到云端模型两套通道共用一个配置入口。适合谁呢我觉得三类人最合适一是经常在离线或内网环境写代码的开发者二是想低成本体验 AI 补全、不想每月付费的独立开发者三是想搞清楚「本地模型 插件 API 网关」这套链路到底怎么跑通的技术爱好者。下面我按从零搭建的顺序把每一步的配置和验证都写清楚你跟着做就能跑起来。2. TaoToken 统一 Key 与本地 Llama3 的混合通道准备在动手之前先把「本地」和「云端」两条通道的关系理清楚。本地这条线是 Ollama Llama3它监听在本机的 11434 端口提供一个兼容 OpenAI 风格的接口。云端这条线走 TaoToken它把多家模型的调用统一成一个 Key 和一个 Base URL这样你在 CodeGPT 里切换模型时不用改一堆配置只换 Model ID 就行。先说本地 Llama3 的准备。Ollama 的安装很简单装完之后拉模型# 拉取 Llama3 8B 模型约 4.7GB首次下载需要联网 ollama pull llama3:8b # 启动服务默认监听 127.0.0.1:11434 ollama serve # 另开一个终端验证模型是否就绪 ollama run llama3:8b 用一句话解释什么是递归如果这条命令能正常返回内容说明本地推理通道已经通了。注意ollama serve默认只监听本地回环地址这对我们来说是好事外部访问不了安全性更高。如果你希望局域网内其他机器也能用可以设置OLLAMA_HOST0.0.0.0:11434但一般没必要。再说云端通道。TaoToken 的作用是统一入口你只需要在官网注册后拿到一个 API Key然后在控制台里可以看到可用的模型列表。它的 API 地址是https://taotoken.net/api兼容 OpenAI 的/v1/chat/completions格式。这意味着任何支持自定义 OpenAI 接口的插件都能直接接进来。这里有个关键点CodeGPT 这类插件通常允许你配置多个「Provider」。我们可以把本地 Ollama 配成一个 Provider把 TaoToken 配成另一个 Provider然后在写代码时按需切换。本地 Provider 的 Base URL 填http://127.0.0.1:11434/v1云端 Provider 填https://taotoken.net/api/v1。两个 Provider 的 Key 格式不同本地随便填一个占位符即可云端填你申请到的真实 Key。为了后面配置方便建议你先在 TaoToken 控制台把 Key 建好并记下你想用的模型 ID。常用的有gpt-4o、claude-3-5-sonnet这类具体以控制台展示为准。这样两条通道就都准备好了接下来进入插件配置环节。3. CodeGPT 插件参数与 settings.json 可复制配置CodeGPT 的安装有个坑要先说VS Code 扩展市场里搜「CodeGPT」会出来好几个同名或近似的一定要认准发布者是CodeGPT的那个别装成 CSDN 发布的或者其他仿冒的。装完之后左侧会出现 CodeGPT 的图标。装好之后最稳的配置方式不是点界面而是直接改 VS Code 的settings.json。按CtrlShiftP打开命令面板输入Preferences: Open User Settings (JSON)然后在里面加入下面这段配置。这段配置同时定义了本地和云端两个 Provider你可以直接复制{ codegpt.providers: [ { name: Local-Llama3, baseURL: http://127.0.0.1:11434/v1, apiKey: ollama, model: llama3:8b, type: openai }, { name: TaoToken-Cloud, baseURL: https://taotoken.net/api/v1, apiKey: sk-你的TaoToken密钥, model: gpt-4o, type: openai } ], codegpt.defaultProvider: Local-Llama3, codegpt.enableCodeCompletion: true, codegpt.completionDelay: 800 }几个参数解释一下。baseURL本地那条指向 Ollama 的 OpenAI 兼容端点注意结尾的/v1不能少少了会 404。apiKey本地填ollama只是占位Ollama 不校验它。云端那条的apiKey换成你在 TaoToken 控制台生成的真实 Keymodel换成你想用的模型 ID。type统一写openai因为两边都兼容这个协议。codegpt.defaultProvider决定默认用哪条通道。我建议默认设成本地这样断网时不会因为云端请求超时而卡住。completionDelay是补全触发的延迟毫秒数本地模型推理比云端慢设 800 到 1200 比较合适太小会频繁触发拖慢编辑器。如果你用的是 Cline 或者带 MCP 的插件配置逻辑是一样的三件套永远是Base URL Key Model ID。以 Cline 为例在它的设置里选 OpenAI CompatibleBase URL 填https://taotoken.net/api/v1Key 填 TaoToken 的 KeyModel ID 填控制台里的模型名。Codex 的auth.json也是同理把OPENAI_BASE_URL指向 TaoToken 的 API 地址即可。核心就是这三样对齐插件就能找到模型。配置保存后VS Code 右下角会提示 CodeGPT 已加载 Provider。如果没反应重启一下 VS Code 窗口让配置重新读取。4. 断网与联网切换的验证请求与成功结果配置写完必须验证两条通道都能真正跑通否则你以为配好了实际补全时一直转圈。验证分两步先验本地再验云端最后测切换。先验本地。确保ollama serve在跑然后在终端里直接打一个请求模拟插件会发的调用curl http://127.0.0.1:11434/v1/chat/completions \ -H Content-Type: application/json \ -d { model: llama3:8b, messages: [{role: user, content: 写一个 Python 的 echo server 示例}], stream: false }如果返回的 JSON 里有choices字段并且message.content里是一段可用的 Python 代码说明本地通道完全正常。这一步很关键因为插件报错时你分不清是模型没起还是插件配置错先用 curl 把模型层排除掉。再验云端。把上面的 URL 换成 TaoToken 的地址Header 里带上你的 Keycurl https://taotoken.net/api/v1/chat/completions \ -H Content-Type: application/json \ -H Authorization: Bearer sk-你的TaoToken密钥 \ -d { model: gpt-4o, messages: [{role: user, content: 用一句话说明什么是闭包}], stream: false }返回正常就说明云端通道也通了。这时候回到 VS Code打开一个源码文件在任意函数上右键选 CodeGPT 的「Explain Code」或「Optimize」。默认走本地你会看到它用 Llama3 给出解释。然后到 CodeGPT 面板里把 Provider 切到TaoToken-Cloud再执行一次同样的操作这次响应会更快、解释更细。断网验证最直接把网线拔了或者关掉 Wi-Fi保持ollama serve运行再触发一次本地补全。只要本地通道配对了补全照样出结果这就是离线可用的意义。联网后切回云端 Provider又能享受更强的模型。整个切换过程不需要改任何配置文件只在插件面板里点一下 Provider 下拉框。实测下来Llama3 8B 在普通笔记本上补全一个函数大概 1 到 3 秒复杂解释会久一点。如果你机器有独立显卡速度会明显更快。云端模型基本是秒回适合需要深度推理的场景。5. 常见报错排查401、local proxy failed 与 reading choices配置过程中最容易撞上几个典型报错我把自己踩过的坑列出来你对照着排查。401 Unauthorized。这个基本只出现在云端通道。原因通常是 Key 填错、Key 前后带了空格、或者 Key 已经失效。先检查settings.json里apiKey字段有没有多余空格再确认这个 Key 在 TaoToken 控制台里是启用状态。还有一种情况是把本地 Provider 的 Key 误填成了云端 Key或者反过来导致请求发到了错误的端点。排查方法就是用第 4 节的 curl 命令单独测云端curl 通了说明 Key 没问题问题在插件配置。local proxy failed / connection refused。这个报错说明插件连不上本地 Ollama。第一反应应该是ollama serve到底起没起用curl http://127.0.0.1:11434/v1/models测一下。如果 curl 也连不上那就是服务没跑或者端口被占。如果 curl 能通但插件报错检查baseURL是不是写成了http://localhost:11434而漏了/v1或者写成了https。Ollama 默认是 http不是 https写成 https 会直接连接失败。reading choices of undefined。这个报错是插件拿到了响应但响应结构里没有choices字段它去读的时候就炸了。常见原因有三个一是模型名写错Ollama 找不到对应模型返回了一个错误对象而不是正常的补全结构二是请求发到了错误的端点比如把云端请求发到了本地端口三是流式和非流式设置不匹配。解决办法是先确认model字段和ollama list里显示的模型名完全一致包括 tag比如llama3:8b不能写成llama3。然后用 curl 复现一次看返回的原始 JSON 长什么样问题就一目了然。OAuth 相关报错。如果你用的是 Claude Code 或者某些需要 OAuth 的插件可能会遇到 token 过期或者回调失败。这类插件如果支持自定义 Base URL就把它指向 TaoToken 的 API 地址用 API Key 方式认证绕开 OAuth 流程。Claude Code 的 Anthropic 兼容配置里把ANTHROPIC_BASE_URL设成 TaoToken 的地址Key 用统一 Key就能正常调用。排查的核心思路永远是先用 curl 把模型层和网络层验证通再回头看插件配置。插件只是中间人模型和网络没问题配置对齐三件套Base URL、Key、Model ID基本都能解决。6. 把两条通道用顺手模型对话、Coding Plan 与接入文档跑通之后日常怎么用更顺手我的习惯是分场景调度。写业务代码、补全函数签名、生成注释这类高频轻量操作走本地 Llama3响应稳定还不花钱。遇到需要重构整个模块、分析复杂逻辑、或者写测试用例这种重推理任务切到 TaoToken 的云端模型质量明显更高。如果你主要做长期编码或者 Agent 类任务可以了解一下 Coding Plan它针对连续编码场景做了优化配合统一 Key 用起来更省心。想先感受一下模型能力可以直接在模型对话里试几个 prompt看看不同模型在你实际代码上的表现差异。接入细节和参数说明都在接入文档里配置项对不上时翻一下很快能找到答案。Key 的管理统一在 API Keys 页面建议给本地和云端分别建不同的 Key方便区分用量和排查问题。整个链路搭好之后你就有了一套「断网能补全、联网能增强」的本地 Copilot代码隐私和成本都握在自己手里。