如果你试过让大模型做稍微绕一点的逻辑题大概会遇到这种情况同一个问题第一次回答得干净利落但结论是错的你在末尾补一句“请一步步推理”它突然就给出了正确的推导过程。这不是玄学这就是思维链提示在起作用。我是做提示工程相关工作的平时主要围着ChatGPT4这类大模型转。前面两篇聊了提示词的基础写法、指令结构、角色设定这些这篇单独把“思维链”拎出来好好说。思维链Chain-of-Thought一般叫CoT算是目前提示工程里最实用、最值得花时间掌握的一招尤其适合数学计算、逻辑判断、方案设计、代码排查这类需要多步推理的任务。这篇会从原理讲起给出可直接抄的写法再聊一聊哪些场景会被它失效最后分享几个搭配参数使用的实际经验。1. 为什么一句“先想想再回答”能改变模型的表现1.1 一个让我印象深刻的对比先说个我实际测过的例子。题目是这样甲乙两人分别从相距240公里的A、B两城出发相向而行甲速度为60公里/小时乙速度为40公里/小时甲比乙早出发1小时问从甲出发开始算两人几小时后相遇如果只是简单地问“几小时后相遇”模型往往直接给出“240除以(6040)再加1等于3.4小时”。这个答案对不对不对。正确算法是甲先走1小时已经走了60公里剩下180公里由两人一起走相向速度合计100公里/小时需要1.8小时所以从甲出发算一共是2.8小时。很多模型第一次会直接踩进“先按速度相加再算时间”的坑里。改成这样问“请一步步推理最后给出答案。”模型就会先拆条件再算余下距离再算共同时间最后得到1.812.8小时。同一道题同一套参数差距就在提示里多了一句引导。这不是个别案例。我自己测试过不少类型的问题凡是涉及两步以上计算的、有隐藏前提的、需要排除干扰项的显式要求模型分步思考之后正确率提升非常明显。无脑直接问的时候模型更像在“凭感觉给一个最可能的结果”而不是真正在算。1.2 思维链背后到底发生了什么从机制上看大模型的生成方式是逐字预测下一个词。它没有我们人类那种持续的工作记忆也不存在一个看不见的草稿本它所有的“思考过程”其实都是生成出来的文本本身。思维链提示的核心逻辑就是强制模型把推理过程写到输出文本里。中间结果一旦出现在文本中模型后续生成的时候就能“看见”自己前面写了什么相当于把原本可能截断的工作记忆外接到上下文里。每一步计算的结果都清清楚楚摆在眼前后面再生成的时候可以引用这些结果而不是凭残存概率去猜。打个比方这就像让你口算两位数乘法。如果不允许动笔你能心算但容易出错如果允许你一步一步列竖式每一步只做很小的乘法或加法总负担就下降了很多。思维链做的就是这件事——把一个大推理段切成若干小推理步每步都落在文本上。顺便说一个容易混淆的地方。现在有些模型在后台确实有隐藏的推理机制用户只看到最终答案看不到中间过程。但提示工程里说的思维链是指让模型把推理过程作为可见文本输出出来这是两码事。隐藏推理是模型内部能力思维链是我们外部可控的提示方式。两者可以兼容但控制权和可观察性完全不一样。1.3 哪种问题最适合用思维链不是所有问题都适合上思维链。以我的经验适合的问题有三个特征第一问题包含多个条件和多步推导。比如数学应用题、逻辑题、SQL查询生成、代码调试分析。第二结果需要可验证。思维链输出的中间步骤可以让你从头检查定位错误发生在哪一步而不是面对一个黑盒答案。第三问题存在隐藏陷阱或常识误导。比如前面那个案例看起来直接套速度公式实际上要先把甲已经走的距离扣掉。不适合的问题也很明显简单事实问答、翻译、改写、创意发散、闲聊。这些场景下加“请一步步思考”不但没有帮助反而会让回答变得啰嗦甚至因为过度推理而把简单事情说复杂。这个我放到第4节重点展开。2. 思维链的几种标准写法与实测效果对比2.1 零样本思维链最简单也最常用零样本思维链Zero-shot CoT的写法非常简单就是在问题后面加一句“请一步步思考Let’s think step by step”或者更自然一点“请先列出已知条件再逐步分析最后给出结论”。我自己常用的是这种句式他们的方案是否可行请先列出已知条件和约束再逐步推理最后给出结论。零样本思维链的好处是零成本不需要准备示例直接套在问题后面就行。缺点是步骤质量不受控模型可能写得啰嗦也可能在某些环节偷懒跳步。实测下来GPT-4这类模型对这种引导的响应是稳定且高质量的基本能按你要求的顺序走。如果要让输出格式更容易处理可以再追加一条格式约束请一步步思考并用编号列表列出推理过程最后单独一行输出最终结论。这样既拿到了完整推理链又方便后续程序化解析。2.2 少样本思维链用示例给模型打样如果零样本思维链的效果不够好或者你希望模型的推理风格符合某种约定可以升级到少样本思维链Few-shot CoT。做法是给一个完整的示例包括题目、一步步推理过程、最终答案然后再给新的题目。我举一个实际用过的例子。题目一个果园摘了1280斤苹果先用每箱16斤的箱子装了一半剩下的改用每箱12斤的箱子装问一共需要多少个箱子 推理过程 果园一半的苹果是1280÷2640斤。 先用每箱16斤的箱子装这640斤需要640÷1640个箱子。 剩下640斤改用每箱12斤的箱子装640÷1253箱余4斤因为装不下4斤也需要一个箱子所以需要54个箱子。 一共需要405494个箱子。 最终答案94个箱子。 题目一批货物重820公斤用载重100公斤的小车搬运至少需要运多少次这样模型会参照示例的格式和风格输出同样结构的推导过程。示例里的推理是否正确很关键模型会模仿你给的推导路径。如果示例本身有错误逻辑模型大概率会跟着学错。这就是“示例即模板”它不只是看答案更在学你怎么走这条推理路径。少样本思维链的优势是推理路径更可控适合对输出格式和风格有要求的正式场景。代价是需要花时间设计一个高质量示例。我一般建议至少准备一个如果是排查类任务可以准备两个不同方向的示例。2.3 实测效果差异直接问、加一句、带示例我把三种方式放到同一批题上试过结论是这样的提问方式典型特点适用场景直接问回答简洁但容易跳步骤、踩陷阱简单问答、低风险任务零样本思维链推理步数够了但结构偶尔松散大多数日常推理任务少样本思维链推理路径稳定格式基本统一输出要复用、要展示、要审查的场景这里要说明一点GPT-4本身是一个非常强的模型直接问很多常规逻辑题也能答对。思维链真正发挥价值的地方在于那些“直接问偶尔对、加一句稳定对”的题以及那些需要把推理过程暴露给第三方检查的场景。如果你的任务是批处理大量题目哪怕准确率只提升几个百分点收益也是实打实的。3. 从单条链到多路径校验让答案更稳的组合玩法3.1 多路径投票别只让模型想一次单条思维链再完整也只是模型的一条推理路径。如果这条路径的起点就偏了后面越偏越远。要提升稳定性可以改用多路径投票的思路。具体做法很容易把温度参数调高一点比如0.8到1.0同一个问题连着问好几次每次都要求用思维链回答。模型每次生成的推理路径不完全一样最后统计哪个结论出现次数最多以它为最终答案。这个思路在学术上叫自我一致性Self-Consistency实测下来对于数学类、逻辑类任务有挺明显的提升。举个例子还是前面那道甲乙相遇的题。直接问一次可能得到3.4和2.8两种版本但你把温度调高问5次其中3次得到2.82次得到3.4取多数答案就是2.8。这个办法不需要改任何提示词代价是多花几次调用额度。我一般在两类场景用多路径投票一类是重要决策类问题答案不能有明显错误另一类是测试环境我想评估某个提示模板本身的稳定性而不是单次运气。3.2 拆解任务一次长链不如拆成多段短链思维链还有一个隐患就是链越长越容易在后半段记错前面的上下文。尤其是那种看起来需要“连续推理十步”的任务模型很可能会在第八步发现第七步算错了然后整个后续推理越走越偏。我后来养成的习惯是遇到复杂任务先拆子问题每个子问题单独跑一条思维链最后再汇总。比如让模型帮我们设计一个产品冷启动方案不要直接问“请一步步思考给我一个完整的冷启动方案”而是拆成四个独立问题目标用户画像是什么用思维链分析。竞品可能的应对策略是什么用思维链分析。我们首批种子用户最可能从哪里获取用思维链分析。预算有限情况下优先级怎么排用思维链分析。每个子问题都有清晰的输入输出推理链也比较短误差累积的问题就被控制住了。做完四个子任务之后再让模型基于前面四个结论做一个综合方案。这时候综合方案不需要长篇推理因为素材都已经准备好了它做的是整理和排序难度小很多。3.3 加一步自我检查思维链的另一层玩法是让模型回头检查自己的推理。可以在思维链末尾接一句请回顾你上面的推理过程逐行检查是否有计算错误或逻辑跳跃如果有请指出并纠正。这个追加步骤的原理很简单模型在第一次推理时推理链是顺序展开的某个错误一旦产生后面很难被发现但当你让它回头检查时它进入的是一个“批判已有文本”的模式注意力会放在排查矛盾上比从头推理更容易发现问题。不过要注意自我检查不是万能的。如果最初的错误是因为对问题本身的误解回头检查大概率发现不了因为它会基于同一个误解继续自洽地检查。这种情况要靠拆解任务和补充背景信息来解决。4. 思维链失效的典型场景这些情况请慎用4.1 不该用思维链的地方思维链不是万能胶。我在实际使用中遇到过好几类失效场景列出来供你参考。第一类是简单事实问答。比如问“某部小说的主要人物是谁”“某个城市的地标建筑叫什么”这些是记忆型问题模型直接回答又快又准。你非要它“一步步推理”它反而会编造一些看似合理的过程把记忆变成了推断。有些情况下模型甚至会为了凑出一个推理链而给出错误结论这是典型的画蛇添足。第二类是创意型任务。写诗、起名、写广告语、创意头脑风暴这类任务需要的是发散联想而不是线性推理。强制思维链会让输出变得干巴巴的像在写说明文而不是在创作。比如“请用思维链给新咖啡品牌起一个名字”它会先用推理分析品牌调性、目标人群、竞品用词最后给你一个特别稳妥但也特别无聊的名字。创意任务应该用开放式提示哪怕要约束也是约束风格和方向而不是约束推理过程。第三类是主观偏好问题。比如“杨梅和车厘子哪个更值得买”这类问题没有标准答案所谓“推理”本质上是在编造优先级和伪逻辑。模型并不知道你的口味、预算和使用场景给出来的推理链再完整也没有实际意义。4.2 越链越错长链的误差累积问题思维链最危险的坑是误差累积。我开始大量使用思维链之后发现一个规律当推理步骤少的时候思维链几乎是正向收益当推理步骤超过某个阈值比如十几步以上错误率会开始回升。原因不难理解。模型每一步生成都可能引入微小偏差而后续生成是以前面所有文本为条件的。如果哪一步生成了一句错误结论模型又会继续基于这个错误结论推下去而且因为前面的推导看起来很有逻辑它不会主动回头纠正。这就像下棋中盘走错一步后面每一步都是对这个错误局面的“合理应对”但整体局面已经坏了。应对方法前面已经提过拆任务、控制单条链的长度、多路径投票、加自我检查。这四个手段可以组合用。我现在处理复杂推理问题时几乎不会让单条思维链超过8步。一旦发现需要推很多步我第一反应不是继续写更长的提示而是把这个大问题拆成两到三个小问题。4.3 思维链放大幻觉的经典翻车案例最后说一个思维链放大幻觉的问题。这个现象比较隐蔽但危害很大。假设你问模型“请用思维链分析为什么某位员工在公司2023年年会上被评为最佳新人。”模型根本不知道这个员工是谁也不知道年会发生了什么。但如果你用思维链提示它会怎么做它会顺着你的问题编造出一个自洽的年会情节甚至编出该员工的名字、工作表现和获奖理由。因为每一步推理都在“合理”地延伸前一步整个过程看起来特别可信。对比一下如果你直接问“这个员工为什么获奖”模型还可能坦诚表示不知道信息但一旦你要求它一步步推理它就进入了一种“生成完整答案”的模式宁可编造也不肯交白卷。这提醒了我们一个边界思维链只能优化推理过程不能凭空创造事实。如果你的问题本身依赖外部事实先要把相关事实放进提示词里再让模型基于事实推理。5. 配合参数与模板的实战建议5.1 参数调整温度和token限额思维链提示要发挥完整效果还得配合参数设置。我先说两个最常见的坑。第一个坑是温度设得太低。有些平台默认温度是0或者很低这时候模型输出的随机性很小每次都倾向于同一个答案。如果你要做多路径投票就必须把温度往上调不然问10次都得到同一条推理链投票没有意义。我的经验是单次推理用0.3到0.7多路径投票用0.8到1.0效果比较合适。第二个坑是输出长度上限设置得太小。思维链会消耗大量输出token因为中间步骤都是要生成的文本。如果API侧把max_tokens限制在500模型可能刚写到第三步就被截断了你只能看到半条思维链最终答案根本没生成。自己做程序化调用时复杂推理任务的max_tokens建议设置到2048以上甚至4096给足生成空间。另外如果是在对话框里使用思维链也会占用上下文窗口。对话历史越长留给思维链展开的空间越少。我的习惯是遇到重要的复杂推理任务先开一个新会话或者清掉前面的历史记录确保上下文窗口里主要装的是当前的思维链推理文本。5.2 一套可复用的综合模板把角色设定、思维链、少样本示例、输出格式约束、自我检查组合到一起可以得到一个比较稳定的综合模板。我现在很多项目里就在用类似结构的提示词你是一名资深数据分析师。下面我会给你一个问题请你严格按以下步骤回答。 第1步列出所有已知条件和隐含假设。 第2步说明你打算选择什么方法为什么。 第3步逐步执行计算或推理每一步都要写出结果。 第4步检查第3步结果是否与第1步条件一致是否存在明显矛盾。 第5步用简洁的结论回答原始问题。 如果某一步你发现信息不足请明确说明缺少什么信息不要猜测。这个模板的好处是把思维链的关键要素全部固定下来先条件、再方法、再执行、再检查、最后结论。对GPT-4来说这种结构清晰的模板比单纯的“请一步步思考”更能稳定输出高质量推理。如果需要程序化解析可以再加最后一条最终答案放在最后一行以“最终答案”开头。这样整段推理过程可以用解析脚本拆开拿到的最终答案也能自动化比对。5.3 我实际项目里的组合姿势最后分享一下我目前比较依赖的一个组合套路。这个套路适用于绝大多数复杂推理类任务也不是什么高深技巧就是四个环节的串联。第一环节把问题背景和相关事实都写进提示词里不给模型留编造空间。第二环节用少样本思维链给一个高质量示例让模型模仿推理的节奏。第三环节多路径跑三到五次把答案汇总比对。第四环节遇到步骤特别多的任务拆成子任务分别处理。这个组合套路我用了相当长时间在逻辑推理、财务计算、方案评估、代码排查这些场景上表现都很稳定。它比较费token运行时间也长一些但换来的正确率提升是值得的。我自己现在使用思维链的最大体会有两个一是思维链的价值不在于让模型“更聪明”而在于让模型的推理过程变得可见、可查、可校验二是它会失效而且失效的方式往往不是给出明显错误而是给出逻辑自洽的虚构内容。理解了这两点再用思维链就不会被它的表面效果迷惑也能在关键任务上做出更稳妥的判断。如果你最近刚开始研究ChatGPT4的提示工程建议不要只收藏各种花哨模板先把这个“从单条链到多路径校验”的方法练透。它能解决的真实问题比大多数复杂技巧都要多。