Ollama 简介Ollama 是一个开源的本地大语言模型运行框架旨在简化大模型在本地环境的部署和使用。核心特点本地运行模型完全在本地机器上执行数据不出本机保障隐私安全简单易用一条命令即可下载并运行模型无需复杂配置模型丰富支持 Llama、Gemma、Mistral、Qwen、DeepSeek 等主流开源模型轻量高效针对消费级硬件优化普通电脑即可运行基本用法# 安装后运行模型自动下载ollama run llama3# 拉取模型ollama pull qwen2# 查看已下载模型ollama list# 删除模型ollamarmllama3API 接口Ollama 启动后默认在http://localhost:11434提供 REST API兼容 OpenAI API 格式# 生成补全curlhttp://localhost:11434/api/generate-d{ model: llama3, prompt: Hello }# 对话补全curlhttp://localhost:11434/api/chat-d{ model: llama3, messages: [{role: user, content: Hello}] }也可通过 SDK 集成// Node.jsimport{Ollama}fromollama;constollamanewOllama();constresponseawaitollama.chat({model:llama3,messages:[{role:user,content:Hello}],});# Pythonimportollama responseollama.chat(modelllama3,messages[{role:user,content:Hello}],)Modelfile 自定义Ollama 支持通过 Modelfile 创建自定义模型类似 DockerfileFROM llama3 PARAMETER temperature 0.7 SYSTEM You are a helpful coding assistant.ollama create my-model-fModelfile适用场景场景说明隐私敏感应用数据不离开本地离线环境无需网络即可使用开发测试快速验证模型效果成本控制无 API 调用费用RAG 应用结合本地知识库构建问答系统支持平台macOSLinuxWindowsOllama 降低了使用大语言模型的门槛让开发者和用户无需依赖云端服务即可在本地体验和集成大模型能力。