前言目标自己搭建的AI大模型接入私人知识库RAG私有大模型就是把目前最流行的开源大模型部署到自己的电脑上无需联网、也不用买会员隐私可不会泄露直接可以和AI聊天。知识库就是你可以把你喜欢的资料统统喂给大模型然后让AI查询你指定的材料再来回复你的问题。若是在公司搭建这套组合可以把公司的介绍、产品数据、销售数据等等都发给私有大模型回复用户的信息就更有针对性。大模型搭建已经分享过了就不在此赘述直接进入主题知识库搭建。知识库的添加需要用到一个开源工具AnthingLLMAnthingLLM可以直接在其界面上对话导入各种形式的资料。也可以把本地AI大模型和知识库做成接口API在企业的其他应用里面去调用。1下载angthingLLM官网地址 https://anythingllm.com/根据你的系统来选择合适的安装包https://anythingllm.com/download下载完成之后单击下一步直到完成安装。安装完成之后双击桌面上的 AngthingLLM图标启动该工具第一次启动估计需要几分钟的加载时间请耐心等待页面打开之后系统首先会让你选一个开源模型免费的Ollama也可以使用商用的闭源模型需要花钱买的比如OpenAI花钱的肯定比没花钱的好这里我们就选免费的Ollama。选择Ollama之后下面OllamaModel就会显示我们后台已经启动的模型千问2qwen2 和llama3我们就默认选择qwen2 然后点击中间的向右箭头→上面这页是涉及数据处理和隐私策略向量数据库默认选择不需要做任何操作直接点下一步→上面这页可以不做任何操作直接跳过。上面这页输入工作区名称AI-RAG-workspace尽量使用英文字母目的是区分、管理数据点击下一步下面就进入工作区再打开AI-RAG-workspace旁边的小扳手进入设置页面在“聊天设置”页面聊天模式选择“查询”则AI就是基于查询得到的答案回复给用户。在左侧栏的底部有一排操作按钮点击最后一个小扳手进入设置页面在这个页面可以修改向量数据库如果不太懂保持默认即可和设置语言chinese以上就是基础设置anthingLLM完成。接下来开始导入数据。在导入数据之前我先问一下AI华为三折叠手机多少钱AI回复不知道。那我们把华为的官网数据提供给它。点击图上红色圈起来的按钮进入导数据页面在这个页面上有两类数据按照下面的1-5的步骤输入https://www.vmall.com/index.htmlAI自己去抓取数据存入向量库然后查询1.输入网址2.点击fetch website3.勾选4.点击move to workspace5.点击 save and Em完成以上步骤之后我们再次去提问结果有了新的变化当然还是不够精准回复了很多废话。在此需要提醒的是要想AI回答的精准数据是尽量的干净和规范比如像产品售价、日期尽量使用文本文件并做好标记如果问题不在知识库里AI回答的准确性就很低。下面我重新上传了一本Atomic-habits.pdf到[AI-RAG-workspace]因为是纯文本回答的内容更加精准。以上。最后的最后感谢你们的阅读和喜欢作为一位在一线互联网行业奋斗多年的老兵我深知在这个瞬息万变的技术领域中持续学习和进步的重要性。为了帮助更多热爱技术、渴望成长的朋友我特别整理了一份涵盖大模型领域的宝贵资料集。这些资料不仅是我多年积累的心血结晶也是我在行业一线实战经验的总结。这些学习资料不仅深入浅出而且非常实用让大家系统而高效地掌握AI大模型的各个知识点。如果你愿意花时间沉下心来学习相信它们一定能为你提供实质性的帮助。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】大模型知识脑图为了成为更好的 AI大模型 开发者这里为大家提供了总的路线图。它的用处就在于你可以按照上面的知识点去找对应的学习资源保证自己学得较为全面。经典书籍阅读阅读AI大模型经典书籍可以帮助读者提高技术水平开拓视野掌握核心技术提高解决问题的能力同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说阅读经典书籍是非常有必要的。实战案例光学理论是没用的要学会跟着一起敲要动手实操才能将自己的所学运用到实际当中去这时候可以搞点实战案例来学习。面试资料我们学习AI大模型必然是想找到高薪的工作下面这些面试题都是总结当前最新、最热、最高频的面试题并且每道题都有详细的答案面试前刷完这套面试题资料小小offer不在话下640套AI大模型报告合集这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】