LocalAI 桌面客户端安装与首个模型跑通教程【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAILocalAI 是开源本地 AI 引擎能在无 GPU 的普通硬件上运行 LLM、图像、语音等多模态模型。本文带你装好桌面客户端并跑通第一个对话模型全程只需几分钟。LocalAI 桌面客户端替你省掉什么四件最容易出错的事客户端都自动化了。自动下载引擎发布管理器定位匹配平台的 LocalAI 发行版落盘到~/.localai/bin启动前做完整性校验发现损坏直接提示重装目录自动就绪首次启动即创建~/.localai下的 models、backends、logs 子目录无需手工规划路径默认值可直接用监听127.0.0.1:8080、日志级别info不改任何配置也能跑通配置即时生效所有设置集中在~/.localai/launcher.json一份 JSON改路径、端口不用重建环境本地运行 LocalAI 前检查环境开始安装前确认下面四项都满足。操作系统Windows、macOS、Linux 均可按平台选对应安装包磁盘空间预留至少 10GB模型文件与 llama.cpp 等后端各占几 GB网络稳定首次启动要下载引擎和模型弱网环境下载带自动重试不必反复手动操作macOS 额外一步官方 DMG 未做 Apple 签名安装后执行一次sudo xattr -d com.apple.quarantine /Applications/LocalAI.app解除隔离LocalAI 桌面客户端安装与启动步骤五步走完装客户端 → 起服务 → 加载模型主线。运行安装包macOS 拖入 Applications 后直接打开。为什么客户端按系统架构自动拉取匹配发行版大文件带重试机制核对配置文件打开~/.localai/launcher.json确认四个默认值满足你。注意models_path指到大容量盘可避免模型占满系统盘{ models_path: /Users/username/.localai/models, backends_path: /Users/username/.localai/backends, address: 127.0.0.1:8080, log_level: info }启动服务右键托盘图标选 Start LocalAI。关闭窗口只是把界面收进托盘服务不受影响加载第一个模型在 WebUI 的 Models 页搜qwen3-4b点 Install或命令行直接跑服务启动前会自动下载模型与 llama.cpp 后端local-ai run qwen3-4b进入 WebUI托盘菜单点 Open WebUI浏览器访问127.0.0.1:8080首页列出已装模型每张卡片带 Chat 与 Delete 按钮LocalAI 首次对话跑通验证看到两处返回即算部署成功。健康检查返回正常终端执行curl http://127.0.0.1:8080/readyz有响应curl http://127.0.0.1:8080/v1/models能列出qwen3-4b真实对话有回复Chat 页选中qwen3-4b发消息后几秒内收到流式回复跑通之后紧接着可以做的两件事用 OpenAI 兼容 API 调模型把现有 OpenAI SDK 的 base_url 指向http://127.0.0.1:8080即可curl http://127.0.0.1:8080/v1/chat/completions \ -H Content-Type: application/json \ -d {model:qwen3-4b,messages:[{role:user,content:Hello!}]}终端里直接聊天local-ai chat --model qwen3-4b终端 Agent 还能读文件、执行命令涉及状态变更的操作会先征求你的同意LocalAI 端口冲突与模型报错速查出问题时按日志 → 端口 → 下载顺序查多数故障三步内定位。端口被占用启动报 8080 端口冲突 → 8080 被其他服务占用 → 把launcher.json的address改成127.0.0.1:8090后重启服务模型 404API 返回model not found→ 模型没装完或名字写错 → 用local-ai models list和/v1/models核对实际安装的名字与量化后缀下载中断启动时报文件不完整 → 网络波动留下半截文件 → 客户端下次启动会自动清理 partial downloads重新触发下载即可不用手动删更多排障细节见 troubleshooting 文档。小结LocalAI 桌面客户端把下载、校验、更新自动化你要做的只剩挑模型和调配置。下一步建议在 WebUI 装一个图像或语音模型试试多模态能力或按 quickstart 文档 用支持工具调用的模型建第一个 Agent。【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考