1. 部署模型方案常见的部署方案是云服务部署和本地部署。本地部署看重机器配置如显卡、CPU等部署参数较高的模型需要购买大量硬件导致前期成本高云部署在云服务器上部署大模型花钱租云服务再在上面部署前期成本低。维度云部署本地部署费用前期成本低长期成本高前期成本高长期成本低维护简单复杂弹性扩展简单复杂定制性高网络依赖网络全球访问不依赖网络数据安全隐私性差数据安全2. 常见云服务平台介绍模型提供商把自己的大模型部署到云服务上后对外提供了API用户可调用API使用模型就不需要自己训练模型。提供商如DeepSeek、OpenAI和Anthropic国内几家头部大厂搭建了云服务模型广场里面包含各类模型。云平台公司网址阿里百炼阿里巴巴大模型服务平台百炼控制台千帆平台百度百度千帆 - 百度智能云控制台腾讯TI平台腾讯https://cloud.tencent.com/product/ti华为昇腾云华为https://www.huaweicloud.com/product/ecs/ascend.html3. 本地部署本地部署模型就是拉取大模型到本机由于模型的参数很多使用普通方法部署模型对用户的技术要求比较高因此可以借助本地部署框架/工具来帮助我们部署。TransformersvLLMllama.cppOllamaLM Studio.......下面使用Ollama部署模型。Ollama的操作比较简单3.1 下载Ollama官方地址Ollama3.2 验证是否安装成功安装成功后Ollama默认会启动。访问127.0.0.1:11434 出现下面的样子就是是安装成功了。或者通过cmd检查安装情况3.3 拉取模型第一步第二步挑选模型https://ollama.com/search第三步在终端输入指令cmd或PowerShell拉取模型 例ollama run deepseek-r1:1.5b第一次运行ollama run xxx 指令会拉取模型往后启用模型也是使用ollama run xxx 部署模型。-----------------------------------------4. Spring AI接入本地部署的模型启动Ollama并使用ollama run xxx本地部署模型后。(接入非常简单核心在于依赖的添加和application文件的配置)以下代码在spring-ai-first-term-practice/spring-ollama-demo · 巨蛇神/JavaEE进阶 - 码云 - 开源中国4.1 创建父子工程用不用父子工程都可以。在独立项目中coding也一样只要把依赖加好就行。父工程的依赖!-- 加入spring boot -- parent groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-parent/artifactId version4.1.1/version relativePath/ !-- lookup parent from repository -- /parent子工程的依赖dependencies dependency groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-web/artifactId /dependency dependency groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-test/artifactId /dependency dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-starter-model-ollama/artifactId /dependency /dependencies !-- 依赖版本管理 -- dependencyManagement dependencies dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-bom/artifactId version2.0.1/version typepom/type scopeimport/scope /dependency /dependencies /dependencyManagement !-- 添加组件 -- build plugins plugin groupIdorg.springframework.boot/groupId artifactIdspring-boot-maven-plugin/artifactId version4.0.5/version /plugin /plugins /build依赖加入和application文件配置后启动项目时引入的就是本地模型了之后的更多操作就是关于Spring AI的运用了详细请看使用Spring AI配置聊天大模型实现人机交互初阶-CSDN博客