LLM Cookbook 完整指南11 门课带你从写 Prompt 到搭出自己的 RAG 系统【免费下载链接】llm-cookbook面向开发者的 LLM 入门教程吴恩达大模型系列课程中文版项目地址: https://gitcode.com/GitHub_Trending/ll/llm-cookbookLLM Cookbook 是 Datawhale 出品的中文实战教程基于吴恩达的大模型系列课程改编用一套可运行的 Notebook 代码把「Prompt 设计 → ChatGPT API 开发 → LangChain 编排 → RAG 检索增强」整条链路走了一遍。仓库里 11 门课分必修四门和选修七门课程代码集中在 content/ 目录配套的文字版讲解在 docs/ 目录。它解决的问题很具体你会用 Python也想做 LLM 应用但不知道从哪个概念下手、按什么顺序练、练到什么程度算过关。这门教程把这些全给你排好了。学完这套课你能干什么先别急着看概念先看看终点在哪里。走完四门必修课你手上会有四样能直接上手干活的能力写出可复现的 Prompt不是感觉还行而是带评估样本、能对比改前改后效果的指令算得清一笔 API 账单每次调用烧掉多少 Token、上下文还剩多少空间心里有数用组件拼出问答系统不手写胶水代码用 LangChain 的模型、解析器、Memory 拼出带记忆的问答链把自己的 PDF 变成知识库跑通 RAG 全流程能向别人解释为什么某次检索答非所问四门选修则按兴趣加餐深挖检索质量、学会给系统打分、动一次模型参数、做个 Web 界面。第一级台阶和模型说上话必修一一切从最基础的动作开始把一段话说给模型听。这门课对应 content/必修一-Prompt Engineering For Developers/。LLM 到底是什么一句话一个超级续写引擎。你给它前文它就赌下一句最可能是什么一个字一个字接着往下写。你在 API 里调到的那些会答问题的模型本质还是这台续写机器只是被训练得续写的内容恰好是像样的回答。理解这一点很关键因为后面所有技巧——RAG、Agent、思维链——都是在这台机器外面做文章没有哪个技巧改变它逐字往下写的本性。Prompt怎么问决定答得怎么样Prompt 就是发给模型的完整指令。新手常见的坑是把它当成搜索引擎的查询框——扔几个关键词就完事。实际上它更像给外包写的需求单目标说清楚、边界划明白、格式定死。必修一拿总结、推断、转换、扩展四类真实任务反复练就是把需求单写准的手感磨出来。Prompt 不是写出来的是试吃出来的上面这张图就是核心方法论先写一版拿一批样本跑把翻车的挑出来归类——是指令含糊、背景缺失还是题目本身需要模型先想后答哪类错就补哪类话再来一轮。就像厨师调菜尝一口、记一笔、加半勺盐循环到满意为止。Temperature管发挥的旋钮同一个 Prompt 连问三次答案可能不一样这个旋钮控制发挥的幅度。做摘要、抽取这种答案唯一的任务把它调低输出才稳定写文案这种要新鲜感的任务调高一点模型才会给你不同的花样。必修课的示例默认把它压到 0就是为了让你判断到底是指令的问题还是运气的问题。辨析Prompt 和微调差在哪Prompt 只改这一次对话的输入改完即走成本花在 Token 上微调改的是模型参数本身一次训练长期生效。先拿 Prompt 试压不住再谈微调这是后面会反复用到的判断顺序。第二级台阶把调用做出工程味必修二会说还不够。真上线的系统输入可能是垃圾输出可能是幻觉成本还天天在烧。这门课content/必修二-Building Systems with the ChatGPT API/专门教工程味。Token模型嘴里的米和账单上的钱模型不认字也不认词它读写的是一种更碎的单位——Token。经验值英文大约 4 个字符或 3/4 个单词合一个 Token中文差不多一个字一个 Token。更要紧的是上限模型的上下文是你塞进去的 它写出来的共用一个池子塞得越满它能回答的空间越小。做成本估算、做长文档处理之前得先会这笔账。Chat 格式给对话分层一次调用不是一问一答的两句而是一个带角色的消息列表system 消息定这家店的家规你是谁、语气如何、什么话不能说user 消息是今天这单的要求assistant 是之前的回答记录。分层的价值在于家规写一次长期生效每单任务单独加行为可控得多。给输入做安检给输出做质检这门课按输入—处理—输出排了一道安检流水线输入侧先做分类这条消息是不是在问业务相关的事再做内容监督有没有违规有害内容处理侧用思维链CoT让模型先列出推理步骤再给结论专治跳步错误和 Prompt 链前一步的产出喂给后一步把复杂任务拆短输出侧再检查一遍格式和事实。最后把这条流水线包成一个端到端的问答系统配上一套评估脚本改哪里、好不好跑一遍就有数。图里这种Prompt 注入是安检环节要防的典型威胁一段待总结的文本里夹着忘掉之前的指令这种伪造命令模型可能真上当。把用户内容和指令用分隔符隔开、对输出做检查就是对策。辨析Prompt 链和 Agent 差在哪Prompt 链是工序排死的流水线先干什么后干什么你定好Agent第三级台阶细讲是目标给定、路径自己找路线由模型现场决定。前者稳后者活先学流水线再学放风筝。第三级台阶用组件拼系统必修三单个调用会了接下来是多步怎么串。这门课content/必修三-LangChain for LLM Application Development/的工具有 LangChain——一个专门拼装 LLM 应用的框架。Chain工厂的装配线LangChain 把调模型、填提示模板、解析输出拆成标准组件你可以像接水管一样把它们串成一条链输入 → 提示模板 → 模型 → 输出解析器。想拿到结构化结果时末端的输出解析器Output Parser负责把模型的自由文本掰成 JSON 或固定格式。这一步看似小却是应用能接后端系统的前提。Memory让机器人记得上一句Chain 管单次流程Memory 管跨轮状态。没有它聊天机器人每句话都失忆有了它它多少钱这种省略主语的追问才接得上。RetrievalQA现成的问答装配线框架自带一条检索 → 拼提示 → 调模型 → 出答案的现成链你把向量库和模型挂上去就能跑。这门课还讲到 Agent给模型思考—调工具—看结果—再思考的循环让它自己决定查什么、算什么。辨析Chain 和 Agent 怎么选Chain 路线写死在代码里每步干什么你说了算可预测性强Agent 路线是模型现场决策灵活但容易跑偏、成本也高。务实的顺序是先用 Chain 把事做成确实需要动态决策了再上 Agent并且想好兜底。第四级台阶把你的数据喂给模型必修四前三级台阶模型答的只能靠它训练时见过的东西。你的私有文档、公司资料它一无所知。RAG检索增强生成的思路是不背改查——允许开卷。这门课content/必修四-LangChain Chat with Your Data/带你手搓一条完整的 RAG 流水线。整条流水线五步加载 → 分割 → 存向量库 → 检索 → 交给 LLM 作答。加载与分割切块的学问PDF、网页、数据库里的原始文档先统一读进来再切成大小适中的块。块太大检索回来一大坨噪声把上下文挤爆块太小一句话拦腰截断意思没了。课程用 RecursiveCharacterTextSplitter 设块大小加重叠区间就是让切点尽量落在句子边界上切得既碎又不断意。Embedding 与向量库给每段话发个库位号每个块过一遍 Embedding 模型变成一串数字向量——语义相近的文本向量也相近。可以想象成图书馆的索书号找书不再靠翻书架逐本看而是按索书号直接定位。存这些向量的仓库课程选了轻量方案 Chroma本地就能跑。用户问题同样转成向量去库里找最近的几个邻居块连同问题一起塞给 LLM——答案就有了出处。检索会翻车翻车了有药基础相似性搜索有两个经典坑同一份文档重复入库检索回来一堆重复块问题里带第三章这种定位词向量搜索只认语义不认序号照样答偏。选修课《Advanced Retrieval for AI with Chroma》逐个给药方。查询扩展先把一个问题改写成多个问法再分别去搜Cross-encoder 重排序让交叉编码器对粗筛结果重新打分排序嵌入适配器训练一个小矩阵把问题向量转成更贴合本任务的表示。辨析RAG 和微调怎么选RAG 不改模型只换它手里的资料知识随时增删当天更新当天生效微调是把知识蒸进参数改起来重但推理时不依赖外挂。务实顺序能检索到的先检索检索解决不了、又属于稳定的格式或风格要求才考虑动参数。第五级台阶选修加餐按兴趣挑七门选修课content/ 下的选修目录对应四块进阶需求把检索挖深《Advanced Retrieval for AI with Chroma》讲查询扩展、重排序、嵌入适配器《Building and Evaluating Advanced RAG Applications》补上高级 RAG 管道和评估指标学会给系统打分评估是 RAG 应用的成绩单——答案相关性、上下文相关性、忠实度这些指标怎么算改完检索策略到底是变好还是变坏跑一遍就有数字。动一次参数《Finetuning Large Language Models》讲指令微调、数据准备和 LoRA 这类只训小部分权重的省算力技巧——冻结预训练权重只加几块小补丁去学新任务显存和成本都降一个量级。做界面、调模型《Building Generative AI Applications with Gradio》用 Gradio 十分钟搭一个 Web 演示页《Evaluating and Debugging Generative AI》教你用 Weights Biases 追踪训练和推理过程玩高级提示《Advanced Prompting》覆盖思维链、自我一致性、ReAct 等提示技巧接工具上 Agent《Functions, Tools and Agents with LangChain》把 OpenAI 函数调用和 Agent 落地核心概念速查表概念大白话什么时候会碰到它LLM逐字续写的文本引擎每节课的调用对象Token模型嘴里的米也是账单单位估算长度与成本时Prompt给模型的完整需求单必修一的主技能Chat 格式system 定家规、user 报任务必修二所有示例的骨架Temperature控制模型发挥幅度的旋钮调输出稳定性时思维链 CoT让模型先列步骤再给答案逻辑题、数学题答错时Embedding给文本发索书号的动作建 RAG 向量库时向量数据库按距离存取索书号的仓库课程里用 ChromaRAG先查资料再作答必修四主线Chain工序排死的装配线用 LangChain 组应用时Agent给目标、模型自己找路径选修课的高级玩法微调 / LoRA用私有数据再训一轮只打小补丁格式、风格 Prompt 压不住时评估给系统出成绩单任何一次改动后验证效果上手路线五站走完每站有出口标志仓库里课程代码在 content/文字讲解在 docs/环境怎么配看 docs/环境配置.md。建议按这个顺序走第 1 站必修一约 1 周先写指令再练总结、推断、转换、扩展四类任务最后拼一个聊天机器人。 出口标志能对一个真实任务写出带评估样本、可复现的 Prompt并说清每轮改了什么、效果差在哪。第 2 站必修二约 2 周Token 与 Chat 格式打底走输入分类、内容监督、思维链、Prompt 链收在带评估的端到端问答系统。 出口标志能口算出一次 API 调用的 Token 开销输入输出两侧的检查环节一个不漏。第 3 站必修三约 2 周模型、解析器、Memory、Chain、文档问答、Agent 依次过关。 出口标志不手写胶水代码用组件拼出一条带记忆的问答链并跑通。第 4 站必修四约 2 周文档加载、分割、Embedding、Chroma 向量库、检索、RAG 问答。 出口标志自己的 PDF 变成可问答的本地库并能说出相似性搜索至少两种失败模式。第 5 站选修按兴趣深挖检索走 Chroma 两门课想量化效果加 RAG 评估课想动参数走微调课想展示成果走 Gradio 课。 出口标志至少跑通一门并且能用评估数字证明自己的改动有效。今天就能开始的三步把仓库拉到本地git clone https://gitcode.com/GitHub_Trending/ll/llm-cookbook照着 docs/环境配置.md 配好 Jupyter 环境申请一个 LLM API key 存进环境变量打开必修一第 2 课content/必修一-Prompt Engineering For Developers/2. 提示原则 Guidelines.ipynb把示例重跑一遍亲手改两条指令对比输出差异跑通第一个 Notebook 的那一刻你就在这条链路上了。后面每一站都会比上一站快——因为路过的概念你都认识。【免费下载链接】llm-cookbook面向开发者的 LLM 入门教程吴恩达大模型系列课程中文版项目地址: https://gitcode.com/GitHub_Trending/ll/llm-cookbook创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考