资讯动态

从 DeepSeek API 迁移到 LocalAI

发布时间:2026/10/14 20:14:22 来源:尧图企业网站定制
从 DeepSeek API 迁移到 LocalAI,核心改动只有两个:部署一个 LocalAI 服务,然后把base_url指向它。由于 LocalAI 提供了与 OpenAI 完全兼容的 API,你现有的openaiSDK 代码几乎不需要改动。🚀 部署 LocalAI推荐使用 Docker 部署,这是最快捷的方式。1. CPU 运行(无 GPU)bashdocker run -d --name localai -p 8080:8080 \ -v localai_models:/models \ localai/localai:latest-cpu2. GPU 加速(NVIDIA)bashdocker run -d --name localai -p 8080:8080 \ -v localai_models:/models \ --gpus all \ localai/localai:latest-gpu-nvidia-cuda-123. 验证服务bash# 检查健康状态 curl http://localhost:8080/readyz # 查看可用模型列表 curl http://localhost:8080/v1/models | python3 -m

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价 →
↑