Tabby 完整使用指南自托管 AI 编程助手如何免费跑起来【免费下载链接】tabbySelf-hosted AI coding assistant项目地址: https://gitcode.com/GitHub_Trending/tab/tabbyTabby 是一个自托管的开源 AI 编程助手给 VS Code、Vim、IntelliJ、Eclipse 等编辑器提供代码补全和聊天问答代码不出内网、不依赖云数据库消费级显卡就能跑。适合想摆脱按席位收费、又担心代码上传云端的个人开发者和企业团队。认识 Tabby它解决什么问题这一节读完你能判断自己是否适合部署 Tabby以及它和云端的 AI 补全服务差在哪。核心痛点其实就两条一是隐私代码片段被上传到第三方服务器二是成本商业工具按开发者席位收费团队人一多账单很难看。Tabby 的思路是把整套服务搬到你的机器上。对比维度Tabby自托管云端 AI 补全服务代码隐私完全留在内网不依赖外部 DBMS 或云服务代码上下文上传云端费用免费开源只承担硬件成本按席位按月收费模型选择本地模型StarCoder 等或接任意 OpenAI 兼容 API平台内置模型集成方式提供 OpenAPI 接口云 IDE、内部工具都能接仅官方客户端硬件要求CPU 可跑消费级 GPU 体验更好无它内部有三类模型各司其职补全模型负责写代码聊天模型负责问答Embedding 模型负责把仓库和文档做语义检索。理解了这一点后面的配置都不会迷路。五分钟跑起来Docker 一条命令这一节读完你能在本地起一个可用的 Tabby 服务并验证模型加载成功。有 NVIDIA 显卡的机器直接一条命令需要装 NVIDIA Container Toolkitdocker run -d --name tabby --gpus all \ -p 8080:8080 \ -v $HOME/.tabby:/data \ # 数据持久化到宿主机 registry.tabbyml.com/tabbyml/tabby \ serve --model StarCoder-1B \ --chat-model Qwen2-1.5B-Instruct \ --device cuda没有显卡就删掉--gpus all和--device cuda用 CPU 跑速度会慢但功能完整。验证分两步。先看日志等模型下载加载完成、没有报错docker logs -f tabby然后浏览器打开http://localhost:8080注册第一个账号成为管理员在首页复制个人访问令牌personal token。这个令牌后面每个 IDE 插件都要用。从源码构建也是可选路径git clone https://gitcode.com/GitHub_Trending/tab/tabby后按 CONTRIBUTING.md 配置 Rust 环境再编译适合想改代码的开发者。场景一日常写代码补全与行内聊天这一节读完你能在 VS Code 里用上实时补全并让 Tabby 读懂你 到的文件。扩展市场搜索并安装官方 Tabby 扩展。设置里填两步Endpoint 填http://localhost:8080再点 Set Credentials 粘贴你的个人令牌。状态栏出现已连接图标即成功直接开始打字就能看到灰色补全。补全的上下文不是只有当前文件。Tabby 会把本地 LSP 的符号声明、最近改动的代码一起喂给模型所以跨文件引用它也能补对。想追问时在 IDE 侧边栏打开聊天 某个文件再提问它会基于真实文件内容回答而不是泛泛而谈。其他编辑器同理Vim/Neovim 装插件后填同样的 Endpoint 和令牌IntelliJ 系列在插件市场装即可Eclipse 需要手动导入插件包步骤见 clients/eclipse/README.md。场景二多端协作用答案引擎读懂整个代码库这一节读完你能让 Tabby 索引团队私有仓库新人可以像问同事一样问问题。答案引擎Answer Engine的价值在于它懂你的库。做法在管理后台添加代码来源接上自托管的 GitHub/GitLab 仓库或网页爬取内部文档。后台任务用 Embedding 模型把代码切块建索引可在任务页查看进度。在网页端或 IDE 侧边栏提问 仓库或文档答案会带上引用来源。补全走的是仓库上下文增强检索相关片段拼进提示词再交给补全模型所以新仓库接入后补全质量会明显提升。团队还可以把一次对话保存成页面Page分享出去把答案沉淀成内部知识。场景三生产环境反向代理与访问控制这一节读完你能把 Tabby 安全地暴露给整个团队。对外提供服务前有两件事必须做。一是反向代理Tabby 的答案引擎靠 WebSocket 做流式输出代理层必须转发 Upgrade 头否则聊天功能会卡住。location / { proxy_pass http://localhost:8080; proxy_http_version 1.1; proxy_set_header Upgrade $http_upgrade; proxy_set_header Connection upgrade; }二是登录方式小团队直接邀请制发账号接了 SSO/OAuth 或 LDAP 的组织可以走企业目录统一认证相关配置在 website/docs/administration/sso/ 有逐步说明。上线后不用盯着日志猜使用情况Activities 页面和 Reports 报表按团队统计补全采纳量、聊天活跃度模型连接状态在 System 页的模型卡片上一目了然配置完可以顺手核对。模型配置与参数调优这一节读完你能根据手头的显存选对模型并知道哪些参数该动、哪些别动。Tabby 有三类模型每类都可以选本地模型内置 llama.cpp 子进程加载或远程 HTTP APIOpenAI、Ollama、vLLM 等。配置文件是~/.tabby/config.toml需要手动创建字段说明见 website/docs/administration/config-toml.md。本地模型只需给模型 ID[model.completion.local] model_id StarCoder2-3B # 补全模型 [model.chat.local] model_id Qwen2-1.5B-Instruct # 聊天模型接远程模型则换[model.chat.http]声明 kind、api_endpoint 和密钥例如接 Codestral[model.completion.http] kind mistral/completion api_endpoint https://api.mistral.ai api_key your-mistral-key选型先看硬件再看口味档位硬件参考补全模型聊天模型体验入门8GB 显存 / CPUStarCoder-1BQwen2-1.5B-Instruct响应快日常够用进阶16GB 显存StarCoder2-3BQwen2-7B 级补全更准长上下文借力无 GPU 预算任意远端 API任意远端 API本地只留代理层补全相关的两个参数谨慎调max_input_length默认 1536和max_decoding_tokens默认 64。默认值是为本地小显卡保守设置的显存充裕再加大改之前确认你的推理后端支持对应上下文长度详见 website/docs/administration/code-completion.md。常见问题速查这一节读完你能覆盖 90% 的部署与连接问题不用再翻论坛。现象可能原因解决方案IDE 填完 Endpoint 仍提示未连接个人令牌没设置或被复制错回到首页重新复制 token在插件里点 Set Credentials网页能开但聊天没有流式输出反向代理没转发 WebSocket代理加 Upgrade / Connection 头见场景三SELinux 系统启动即退出卷挂载权限被拦挂载参数改为-v $HOME/.tabby:/data:Z首次启动长时间无响应模型正在下载或加载docker logs -f tabby看进度别急着重启显存 OOM 或卡顿模型过大或并发过多换小一档模型或降低并行实例数8080 端口冲突本机已占用-p 9090:8080换端口IDE 里同步改 Endpoint日常验证两条命令就够docker logs -f tabby # 看实时日志 curl -I http://localhost:8080 # 确认服务存活上线路前检查清单照单勾完你的 Tabby 就具备对外服务能力了容器以-d常驻数据卷挂载到$HOME/.tabby重启不丢配置浏览器可登录http://localhost:8080管理员账号已注册每个 IDE 插件都填了 Endpoint 和个人令牌状态栏显示已连接输入代码出现补全侧边栏聊天可正常流式回答团队仓库已加入代码来源索引任务显示完成反向代理已开 WebSocket 转发外部域名可访问登录方式确定邀请制 / SSO / LDAP普通成员已收到邀请确认过 Activities 与 Reports 页面有数据产生备份了~/.tabby目录含 config.toml 与用户数据升级前先看 website/docs/administration/upgrade.md【免费下载链接】tabbySelf-hosted AI coding assistant项目地址: https://gitcode.com/GitHub_Trending/tab/tabby创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考