1. 项目概述当大模型遇上“如果当初”的追问最近在折腾一个挺有意思的课题源于一个很实际的场景假设你是一个信贷审批系统的产品经理某天一个用户被系统拒绝了贷款申请他跑来问你“我到底要怎么做才能通过审批” 传统的解释性AIXAI可能会告诉你因为你的年收入低于某个阈值或者负债比过高。但这就像医生只告诉你“你病了”却不告诉你“怎么才能好”一样用户依然一头雾水。我们需要的是“反事实解释”Counterfactual Recourse——给出一个具体、可行、最小的改变方案比如“如果你的年收入增加5000元或者还清某张信用卡你的申请就能通过”。现在我们把这个问题扔给当今的“万能工具箱”——大语言模型LLM。LLM凭借其强大的世界知识和推理能力似乎天生就是为生成这种“如果…那么…”的叙事性解释而生的。你可以直接问GPT-4“假设我是一个年收入5万、有车贷的申请人被拒贷了我该怎么办” 它很可能给你列出一串听起来很合理的建议。但问题来了每一次向LLM提问都需要消耗计算资源和API调用费用这就是所谓的“固定LLM预算”。你不可能无限制地让LLM去穷举所有可能的“如果”。如何在有限的提问次数预算内高效地搜索到那个最优、最可行的反事实方案就成了一个核心挑战。这就是“Agentic Search for Counterfactual Recourse under Fixed LLM Budgets”这个标题背后所指向的核心问题。它本质上是一个资源受限下的优化搜索问题。我们不再把LLM当作一个简单的问答机而是将其嵌入到一个具有自主决策能力的“智能体”Agent框架中。这个智能体像一位精明的侦探手里只有有限的“询问证人”调用LLM的机会它必须设计一套策略决定每次问什么问题、如何根据答案调整后续的搜索方向以期用最少的次数找到最佳的补救方案。这里“Agentic Search”智能体化搜索是方法“Counterfactual Recourse”反事实补救是目标“Fixed LLM Budgets”固定LLM预算是约束条件。我尝试实现这个想法的过程中发现它完美地结合了经典搜索算法如蒙特卡洛树搜索MCTS与现代LLM的规划能力既有扎实的理论框架又有极强的现实应用价值尤其是在金融、招聘、医疗等对决策公平性和可解释性要求极高的领域。2. 核心思路与架构设计构建一个精打细算的“补救方案探索者”这个项目的核心是设计一个智能体系统它能够在有限的LLM调用次数内高效地探索“用户特征空间”找到从当前不利状态被拒绝到理想状态被接受的路径。整个架构可以看作一个经典的“规划-执行-评估”循环但每个环节都深度整合了LLM。2.1 问题形式化与搜索空间定义首先我们需要把现实问题抽象成一个可计算的模型。假设用户的初始状态S_initial由一组特征向量表示例如[年龄35, 收入50000, 负债20000, 信用分650, 职业工程师]。机器学习模型M比如一个信贷评分模型对这个状态进行预测输出为拒绝。我们的目标是找到一个新的状态S_cf反事实状态使得M(S_cf) 接受。搜索空间就是所有可能S_cf的集合。这个空间是离散且巨大的每个特征都可以改变。直接让LLM凭空想象一个S_cf效率极低。因此我们更倾向于让智能体进行渐进式修改即从S_initial出发通过一系列小的、可行的改变action逐步移动到S_cf。每一次改变都可以向LLM咨询“如果我把收入从5万增加到5万5其他不变通过的可能性会增加多少”或者“还清负债和增加收入哪个动作的边际效益更高”2.2 智能体架构规划器、执行器与评估器的协同我将系统设计为三个核心模块它们在一个预算管理器的统筹下工作规划器 (Planner)这是系统的大脑通常由LLM本身担任。它的任务是制定搜索策略。给定当前状态和历史信息规划器需要决定下一步探索哪个方向即提出哪个反事实假设问题。例如它可能基于常识判断“对于贷款审批收入比年龄更重要”因此优先探索修改收入的方案。更高级的规划器会使用如蒙特卡洛树搜索MCTS的框架将搜索过程构建成一棵树节点代表状态边代表修改动作通过模拟Simulation来评估不同动作序列的长期价值从而选择最有希望的路径进行深入即调用LLM进行实际查询。执行器/查询构造器 (Executor/Query Constructor)这个模块负责将规划器决定的“探索方向”转化为LLM能够理解和执行的、格式规范的提示词Prompt。这是决定LLM输出质量的关键。一个糟糕的提问可能得到模糊或无用的答案。例如不能简单地问“改收入有用吗”而应该问“在以下精确场景中{当前状态描述}。如果仅将‘年收入’特征从50,000修改为55,000请严格以‘通过概率估计值[0-1之间的数值]’和‘动作可行性评分[1-5的整数]’的JSON格式回应。”评估器与状态更新器 (Evaluator State Updater)该模块解析LLM的返回结果提取关键指标如预测的概率变化、可行性分数并更新内部的搜索状态。例如如果LLM返回{“通过概率估计值”: 0.3, “动作可行性评分”: 4}评估器会记录这个动作的“即时奖励”。状态更新器则根据这些反馈更新MCTS树中对应节点的统计数据如访问次数、累计价值为下一轮规划提供依据。预算管理器 (Budget Manager)这是一个简单的计数器但至关重要。它严格追踪已消耗的LLM调用次数Token数或API调用次数。当规划器请求一个新查询时必须首先向预算管理器申请。预算耗尽搜索立即终止并返回当前找到的最佳反事实方案。提示这里的LLM扮演了双重角色。一方面它是“世界模拟器”或“预测器”用于评估某个动作的效果替代或补充原始的机器学习模型M。另一方面它也是“元认知规划器”指导搜索过程本身。这种设计使得系统在M是一个难以查询的“黑盒”模型时例如公司内部的专有模型依然能够工作因为我们可以用LLM来近似模拟M的行为。2.3 为什么选择MCTS作为核心搜索框架在有限的预算下进行搜索本质上是一个序列决策问题。我们需要在“探索”尝试可能带来高回报但不确定的新动作和“利用”深化当前已知最好的动作路径之间取得平衡。蒙特卡洛树搜索MCTS正是解决这类问题的经典算法其在围棋AI AlphaGo中的成功已广为人知。在反事实补救的上下文中MCTS的工作流程可以这样映射选择 (Selection)从搜索树的根节点初始状态开始根据树策略如UCT公式递归地选择子节点直到到达一个未完全展开的节点。这相当于决定沿着哪条已部分探索的修改路径继续深入。扩展 (Expansion)为选中的节点添加一个或多个新的子节点新的可能动作。这些新动作可以由LLM规划器基于当前状态生成。模拟 (Simulation)从新扩展的节点开始运行一次快速的“模拟推演”直到达到终止状态如预测为“接受”或达到最大修改步数。在纯LLM环境中这次模拟可以是一次完整的、但使用简化提示词的LLM调用让它快速生成一个完整的补救故事并评估其最终结果。为了节省预算这一步有时会用更简单的启发式规则或一个非常廉价的模型如TinyLLM来近似。回溯 (Backpropagation)将模拟结果成功或失败以及路径的可行性总评分沿着选择路径反向传播更新路径上所有节点的统计数据如总价值、访问次数。通过不断迭代这个过程MCTS能够将宝贵的LLM调用预算主要用于“扩展”时生成高质量动作建议和“模拟”时的关键评估智能地分配到最有希望的区域。3. 关键技术实现细节与实操要点理论架构清晰后真正的挑战在于工程实现。如何让LLM、MCTS和领域知识无缝协作以下是我在实现过程中总结的几个关键环节。3.1 提示词工程让LLM成为一个可靠的评估者LLM的输出具有不确定性。为了让其扮演好“预测器”的角色我们必须设计高度结构化、约束性强的提示词。一个基础的查询提示词模板如下你是一个金融风控评估专家。你的任务是严格基于给定的用户画像和修改规则评估贷款审批结果变化的可能性。 **当前用户画像** {以JSON格式精确列出所有特征及取值} **假设修改** 仅将特征“{特征名}”的值从“{旧值}”修改为“{新值}”。其他所有特征保持不变。 **请严格按以下要求输出** 1. 思考修改后用户画像的整体合理性例如年龄减少是否合理收入跳跃是否过大。 2. 基于你的风控知识估计贷款模型批准新画像的概率。这是一个0到1之间的数值代表你认为的可能性。 3. 评估此修改动作对用户而言的可行性1-5分1分表示极难实现5分表示极易实现。 **输出格式** 必须且仅输出一个JSON对象包含以下两个键 - probability_estimate: 一个0到1之间的浮点数 - feasibility_score: 一个1到5之间的整数实操心得角色设定与领域知识注入开头的角色设定“金融风控评估专家”能有效引导LLM进入特定语境利用其内部知识。严格隔离修改强调“仅修改…其他保持不变”至关重要防止LLM进行不受控的联想和篡改其他特征。结构化输出强制JSON格式输出极大简化了结果解析避免了自然语言描述的歧义。可以进一步要求LLM在输出JSON前先输出“json”便于用正则表达式提取。温度参数将此类评估查询的temperature参数设置为0或接近0如0.1以最大化输出的一致性。创造性应留给“规划器”而不是“评估器”。3.2 MCTS与LLM的集成动作生成与树策略在标准的MCTS中“扩展”步骤需要生成可能的动作。在围棋中动作是棋盘上的落子点。在我们的场景中动作是“修改哪个特征改成什么值”。动作生成策略LLM生成向LLM规划器提供当前状态要求其生成K个最有可能改善结果的、可行的修改建议。提示词如“给定当前状态{状态}请列出3个最具体、最可行的修改建议使其更可能获得贷款。每个建议格式为‘修改[特征名]为[新值]’。” 这种方法能利用LLM的常识但消耗一次LLM调用。基于规则的生成对于结构化数据可以定义规则。例如对于数值特征收入、负债可以生成“增加10%”、“减少20%”等动作对于分类特征职业可以生成相似类别间的切换如“工程师” - “高级工程师”。这种方法零成本但可能缺乏创造性。混合策略在搜索初期或预算宽裕时使用LLM生成多样化的动作在搜索后期或预算紧张时切换到基于规则的局部微调。这是实践中平衡效果与成本的有效方法。树策略选择阶段 最常用的是UCTUpper Confidence Bound for Trees公式UCT Q / N c * sqrt(ln(Parent_N) / N)其中Q: 该节点动作带来的累计价值如概率提升的加权和。N: 该节点被访问的次数。Parent_N: 父节点被访问的总次数。c: 探索常数平衡探索与利用。通常通过实验调整例如设为sqrt(2)。在回溯时我们更新的Q值不仅仅是最后一次模拟的“是否成功”0/1而应该是一个综合收益reward delta_probability * w1 feasibility_score * w2。其中delta_probability是由LLM评估器返回的概率估计值feasibility_score是可行性评分w1和w2是权重用于平衡“效果”与“可操作性”。3.3 预算分配与终止策略固定预算是项目的核心约束。我们需要一个策略来分配每次LLM调用。每轮迭代消耗一次完整的“选择-扩展-模拟-回溯”循环可能消耗1-2次LLM调用扩展时生成动作模拟时进行评估。如果模拟使用廉价启发式则主要消耗在扩展时的动作生成。自适应预算分配可以设计一个动态策略。例如初始阶段分配更多预算给“扩展”以广泛探索动作空间当树结构相对稳定后将预算倾斜给“模拟”以更精确地评估最有希望的路径。终止条件预算耗尽最直接的终止条件。找到满意解当发现一个反事实状态其预测概率超过阈值如0.9且可行性评分也较高时可以提前终止。收敛当连续多轮迭代最佳路径的收益不再有显著提升时可以认为搜索已收敛。4. 系统工作流程与核心环节实现让我们通过一个简化的信贷场景示例走一遍系统的完整工作流程。假设初始状态S0为{收入: 50k, 负债: 20k, 信用分: 650}模型M拒绝该申请。LLM总预算为10次调用。4.1 初始化与首轮探索初始化创建MCTS根节点代表S0。预算管理器初始化为10。第一轮选择与扩展选择从根节点开始由于是首次访问直接进入扩展阶段。扩展规划器LLM消耗1预算被询问“为状态S0生成2个可行的修改建议以提高贷款通过率。” LLM可能返回动作A1: 增加收入至55k,动作A2: 还清负债至15k。系统创建两个子节点分别对应S1(收入55k, 负债20k, 信用分650) 和S2(收入50k, 负债15k, 信用分650)。第一轮模拟与回溯模拟对S1进行模拟。执行器构造查询消耗1预算询问LLM评估器“仅修改收入为55k概率和可行性如何” LLM返回{概率: 0.3, 可行性: 4}。假设模拟在此终止简化。回溯将回报reward1 0.3*0.7 4*0.3 2.01假设权重w10.7 w20.3回溯到节点A1和根节点。更新它们的访问次数N和价值Q。同理对S2进行模拟评估消耗1预算LLM返回{概率: 0.5, 可行性: 2}。reward2 0.5*0.7 2*0.3 1.55。进行回溯。此时预算剩余 10 - 3 7。树中A1的Q/N较高2.01A2的较低1.55。4.2 多轮迭代与深度搜索第二轮及后续迭代选择根据UCT公式算法可能会选择探索当前表现更好的A1节点利用也可能因A2访问次数少而给予其探索机会。假设选择了A1节点S1状态进行深入。扩展在S1的基础上再次调用LLM规划器消耗1预算生成新的动作例如动作A1a: 在收入55k基础上提升信用分至670。创建新节点S3。模拟对S3进行评估消耗1预算LLM返回{概率: 0.8, 可行性: 3}。这是一个很高的概率回溯高回报被回溯使得从根节点到A1再到A1a的这条路径价值大增。持续进行系统继续在“探索新分支”如从根节点尝试其他动作和“利用高价值分支”在A1a基础上进一步优化之间权衡。预算在不断消耗。4.3 结果生成与呈现当预算耗尽或找到满意解时搜索停止。系统从根节点开始选择“平均价值Q/N”最高或“最佳单次模拟”价值最高的子节点路径作为推荐的反事实方案。例如最终输出的结果可能是找到最优反事实补救方案 1. 第一步将年收入从50,000元提升至55,000元可行性高。 2. 第二步在第一步的基础上将信用分从650提升至670可行性中。 执行以上两步后预计贷款通过概率将从10%提升至约80%。这个方案是在有限的10次LLM调用内通过智能搜索找到的平衡了效果与可行性的较优解。5. 常见挑战、问题排查与优化技巧在实际编码和调试过程中会遇到一系列典型问题。以下是我踩过的一些坑和解决方案。5.1 LLM评估的不稳定性与偏差问题即使设置了低温度LLM对同一查询的多次回复概率估计值也可能有波动如0.7, 0.75, 0.68。更大的问题是LLM可能存在系统性偏差例如过于乐观或悲观。排查与解决校准Calibration在小样本集上将LLM的“概率估计”与真实模型M的决策或人工标注进行对比。可以训练一个简单的线性缩放函数或Platt缩放法来校准LLM的输出概率使其更接近真实分布。多数投票或平均对于关键节点的评估可以消耗多次预算进行独立查询然后取概率估计的平均值以平滑随机波动。但这会显著增加成本需谨慎使用。提示词对抗测试尝试不同的提示词表述如“作为保守的风控官…” vs “作为积极的客户经理…”观察输出范围选择一个偏差相对较小、符合场景的表述固化下来。5.2 搜索效率低下与预算浪费问题智能体在无关紧要的特征上反复探索或者陷入局部最优导致预算耗尽也找不到好方案。排查与解决引入领域先验在UCT公式中除了数据驱动的Q/N值可以为某些动作添加一个“先验价值”项。例如根据业务知识“提升收入”的先验价值可以设置得比“改变婚姻状况”更高。这能引导搜索更快朝向有希望的方向。实现动作剪枝在动作生成阶段就过滤掉明显不可行或无效的动作。例如规则规定“年龄”特征只能微调不能大幅减少或者LLM生成动作后用一个简单的规则检查器过滤掉逻辑矛盾的动作如“将职业从学生改为退休”。调整探索常数c如果搜索过于激进总在尝试新动作可能是c值太大应调小以加强利用。如果搜索过早收敛于一个次优解可能是c值太小应调大以鼓励探索。实现“快速模拟”在MCTS的“模拟”步骤不一定每次都用完整的LLM调用。可以设计一个轻量级的评估函数例如基于特征重要性从M中获取或由领域专家给出的线性加权模型进行快速得分估算。仅当模拟路径到达一个“有潜力”的叶子节点时才使用宝贵的LLM预算进行一次精确评估。5.3 结果可行性不足与“荒谬反事实”问题LLM或搜索算法可能提出诸如“将年龄从60岁改为25岁”或“将年收入从5万瞬间提升至100万”这类不切实际的方案。排查与解决在动作空间中嵌入约束在动作生成规则中明确定义每个特征的可修改范围和步长。例如收入允许增加增幅不超过当前值的20%年龄不允许减少允许小幅增加模拟时间流逝。在评估函数中惩罚不可行性如前所述将feasibility_score作为回报的一部分。可以设置一个可行性阈值如2分当模拟中某个动作的可行性过低时直接终止该模拟分支并给予极低的回报。后处理与验证最终输出的反事实序列可以再经过一次LLM或规则引擎的“合理性检查”过滤掉连贯性差、违背常识的方案。5.4 系统性能与成本优化问题整个搜索过程可能较慢且LLM API调用成本不菲。排查与解决并行化模拟在MCTS的选择阶段一旦确定了一批待扩展的叶子节点可以对它们的“模拟”步骤进行并行化处理同时发起多个LLM调用充分利用等待时间。这能大幅减少总耗时但会集中消耗预算。缓存机制建立查询-响应的缓存。完全相同的状态-动作对查询直接返回缓存结果避免重复调用。对于相似的查询可以考虑是否能用缓存结果近似但这需要谨慎评估相似度。使用分层LLM策略动作生成和初步筛选使用性价比高的中型模型如GPT-3.5-Turbo只在最终关键路径的精确评估时使用最强大的模型如GPT-4。这需要对不同模型在该任务上的表现进行前期测试。设置预算预警线当预算消耗达到80%时系统可以切换为更保守的策略例如只对当前最优路径进行深度利用停止一切新的探索分支。实现一个在固定LLM预算下进行智能体化搜索的反事实补救系统是一个将经典算法与现代大模型能力相结合的精彩实践。它迫使你深入思考如何将不确定的、昂贵的LLM调用转化为一种可控的、导向性的资源去解决一个明确的优化问题。这个过程充满了对提示词设计、搜索策略、评估标准和工程优化的挑战但当你看到系统在有限的“提问次数”内为一个复杂的拒绝案例找到一个合理、分步的补救方案时那种成就感是实实在在的。这不仅仅是技术上的实现更是朝着构建更负责任、更可解释、更以用户为中心的AI系统迈出的扎实一步。