前阵子一个做算法负责人朋友跟我吐槽面了十几个校招和实习生最后只发出去一个 offer。不是简历不够漂亮而是好几个候选人项目经历吹得天花乱坠一进技术面就被基础问题问懵了。我让他把那几个问题发我一看好家伙来来回回就是那八个。这种事现在太常见了你简历上写着熟悉大模型、做过 Agent、微调过开源模型面试官上来问一句“Transformer 为什么能取代 RNN”“RLHF 为什么要用 PPO”如果当场卡壳大概率直接淘汰。这篇东西就是专门拆这 8 个必问问题的。我尽量按照面试现场最真实的追问逻辑来写每条都会给出回答框架、背后的原理、面试官真正想听到什么以及我自己踩过的坑。不管你是准备大模型岗位的候选人还是刚接触 LLM 想系统补课的学习者按这个清单过一遍会比抱着 PDF 啃一天有效得多。1. 为什么是这 8 个问题面试官到底在筛查什么很多人觉得面试官问“基础题”是在走流程其实不是。基础题是成本最低、最能暴露一个人是否真正理解 LLM 的方法。你项目做得再花哨底层原理讲不清楚面试官就会怀疑那些项目是不是照抄别人的 demo或者全靠高级框架糊弄出来的。这八个问题基本覆盖了四个能力维度模型原理、训练对齐、应用落地、工程部署。面试官希望通过这些问题判断你是不是一个能独立解决问题的工程师而不是一个只会调 API 的工具人。1.1 面试官眼中的能力筛选框架大模型岗位和传统算法岗不太一样。传统算法岗看重的可能是特征工程、模型调参能力而大模型岗位更看重“系统性理解”。你不仅要会用还要知道模型内部发生了什么、为什么会出错、出了问题怎么定位。我理解面试官筛选人的逻辑大概是这样的先问你一个很基础的原理题看你能不能讲清楚机制再问你一个业务落地题看你能不能把模型能力映射到具体场景最后再问一个工程题看你对部署、量化、评测这些“脏活累活”有没有概念。如果你在某个环节只停留在“用过 API”“跑过代码”这个程度面试基本就凉了半截。1.2 直接淘汰的信号是什么所谓“直接淘汰”并不是你有一题答错就立刻结束而是面试官会给你一个非常低的评分后面的题基本不用认真面了。我见过很多候选人死在哪死在他们把答案背得很熟但不理解。比如问“什么是温度系数”他能背出 0.7、0.8但问“为什么不同的服务要把 temperature 设置成不同值”就完全懵了。这种答法会让面试官觉得你只是背题不具备迁移能力。另一个淘汰信号是“沉默”。面试官问了一个你不会的问题你低头不说话没有任何思路也不愿意推测这在大多数面试官眼里是致命的。技术面试本身就是一场“解压式沟通”你哪怕只说出一个可能的方向也比闷不吭声强。所以你会发现这八个问题基本都有套路可循核心是让你展示思维方式而不是要一个标准答案。2. 原理类必问Transformer 与采样解码先讲原理类问题因为这类问题最常在面试开场出现。面试官会用它们来迅速判断你的技术基础是否扎实。通常第一轮技术面如果原理题答得好后面项目深挖环节即使个别细节忘了面试官也会愿意帮你找补。2.1 第一个必考题Transformer 为什么能取代 RNN这个问题几乎已经成为大模型面试的“开场定生死题”。我问过不少候选人很多人第一反应是“因为可以并行计算所以更快”。这个答案没错但不完整只回答这一点会显得你只在读新闻没有真正理解网络结构。完整回答应该从两个角度展开。第一RNN 的序列建模方式是逐个 token 推理这意味着第 t 个 token 的信息要经过很多步才能传递到很远的位置。这个过程中梯度要么消失、要么爆炸所以你很难建模长距离依赖。Transformer 用自注意力机制把任意两个 token 直接拉通一个 token 可以一步看到整个序列的所有 token信息传递路径从“链式”变成了“短接”。第二注意力的计算可以矩阵化所有位置并行计算这对 GPU 非常友好。但这里有个很容易被忽略的点Transformer 本身是没有时序信息的它不像 RNN 天然按顺序处理所以必须加位置编码。如果你能在面试中主动说出这一点再补一句“这也是后来 RoPE、ALiBi 这类位置编码改进的出发点”面试官基本就会在原理这一栏给你打个不错的分数。我建议回答时不要只背结论可以用一个比喻RNN 像一条流水线每个零件都要经过上一站Transformer 像一个会议室所有人同时在桌上讨论效率天然高但得提前给每个人安排座位牌。另外一个加分项是复杂度。自注意力的空间复杂度是 O(n²)所以后来才会有 FlashAttention、稀疏注意力、线性注意力这些优化。如果你能提到 FlashAttention面试官会相信你不仅读过论文还关注过工程优化。但切忌不要只背“FlashAttention 就是省显存”最好顺带说一句它通过分块计算和重计算来避免存储整个注意力矩阵这样至少证明你理解原理而不是只听过名字。2.2 第二个必考题temperature、top-k、top-p 到底怎么配合这个问题在聊天机器人、文本生成、Agent 工具调用类岗位中几乎是必考的。候选人常见的错误是只回答“temperature 控制随机性值越大越随机”然后面试官一追问“那 top_p 和它一起设会怎样”就崩了。先说 temperature 的本质。模型最后一层会输出一个 logits 向量softmax 把它转成概率分布。temperature 在做的事就是先除以这个系数再算 softmax。temperature 小于 1 时概率高的 token 会更高分布更锐利输出更确定大于 1 时概率接近低概率词被抽中的机会变大生成更发散。temperature 等于 0 时很多框架直接走贪心解码每次选概率最高的 token理论上输出确定但实际代码里由于浮点计算和不同的 beam 策略也可能不完全一样这点可以作为面试加分。top-k 和 top-p 是截断策略。top-k 固定保留概率最高的前 k 个 token然后把其他 token 概率重置为 0 再重新归一化。top-p 则不是固定数量而是按概率从高到低累加直到累积概率超过阈值比如 0.95就保留这一小撮 token。实际解码顺序通常是先做 top-k 过滤再做 top-p 过滤最后按调整后的分布采样。你可以用一个投票比喻来解释top-k 先只让得票最高的前 50 个人进决赛top-p 再根据票数占比继续筛选temperature 决定最后一轮选票是倾向于头号选手还是雨露均沾。最后还要提一嘴 beam search。面试官经常会问“那你说说 decode 的时候什么时候该用 beam search”。答案是机器翻译、摘要等结构性输出任务适合 beam search因为我们要的是全局最优序列而开放域对话、创意写作适合采样因为多种表达都合理。能把这个区别讲清楚这道题基本就稳了。3. 数据对齐类必问RLHF 和幻觉治理原理题后面紧跟着的通常是数据和对齐的问题。现在很多开源模型能力很强但真正商业落地时大家发现模型“能力”和“听话程度”是两回事。面试官会通过这些问题看你有没有参与过模型训练或者至少理解训练数据的价值。3.1 第三个必考题RLHF 三阶段和“为什么是 PPO”如果你面试的是偏训练算法岗RLHF 几乎必问题。哪怕你不是专门做训练的面试官也可能问因为现在这是大模型领域绕不开的知识点。RLHF 的三阶段要先从头捋第一阶段做监督微调 SFT用人工标注的高质量问答对微调预训练模型让模型学会“对话的样子”第二阶段训练奖励模型 RM让标注员对同一问题的多个回答排序然后用这个排序数据训练一个打分模型第三阶段用强化学习 PPO把奖励模型当作环境反馈让语言模型通过试错来最大化奖励。面试官真正的考点在“为什么不能跳过强化学习直接用偏好数据训练”。很多人被问住。原因并不复杂偏好数据通常是排序或者打分是一个离散的、间接的监督信号没法直接对生成模型做梯度回传。语言模型每一步预测的是一个巨大词表上的分布暴力枚举所有可能的输出组合不现实。所以我们需要一个能“在线探索”的机制让模型在生成过程中不断尝试不同句子再用奖励模型的打分来指导更新。PPO 还有一个关键设计是 KL 散度惩罚防止模型为了刷奖励分而说出一些离基础分布特别远的话也就是 reward hacking。你可以这样组织回答先讲三阶段再解释“为什么不能直接训练”这个核心矛盾最后说 PPO 是如何解决策略更新稳定性问题的。如果时间够可以补一句 DPO 的演进DPO 把 RLHF 的偏好优化转化为直接在偏好数据上做隐式奖励最大化省去了单独的奖励模型和 PPO 工程复杂度是现在很多全开源模型实际采用的做法。这一下就能把“懂原理”和“读前沿”区别开。3.2 第四个必考题幻觉从哪来数据治理怎么补“大模型幻觉怎么解决”这个问题面试官几乎必问而且他们期待的不是一个“标准答案”而是你能否根据数据、训练、解码三个层面给出系统分析。先说成因。语言模型做的是 next token prediction目标是预测“像人话的下一个词”不是“事实正确的下一个词”。这是一个天然错位。训练数据里如果存在大量重复句式、错误知识、或者某些长尾事实只出现过很少的次数模型很容易学到的是“概率上常见”而不是“逻辑上正确”。到了推理阶段采样策略不确定性也会让模型在边缘知识上编造内容。所以一句话总结幻觉的本质是模型对知识质量和生成目标之间的权衡失衡。数据的角色在这里极其关键。很多候选人以为数据标注就是拿一份问答对让人写答案太天真了。想治幻觉先得治训练数据里的“脏毒”。你需要做去重、清洗错误事实、过滤低质量答案还要控制不同主题的语料比例。面试时可以举一个具体的例子如果一份数据里“北京的省会是杭州”这种错答出现几十次模型可能就把它当成高概率路径学会了。所以做数据标注时一定要建立“标注规范 多人交叉验证 一致性检验”的流程。一致性指标比如 Cohens Kappa 就经常被用来衡量标注员之间是否达成统一这是数据质量的硬指标。回答完成因和数据治理后最好再补一句“幻觉无法 100% 消除只能在业务侧兜底”。常用的业务兜底方案有RAG 带来源引用模型对不确定内容主动拒答或者引入外部校验器对关键事实做二次抽查。这种“工程化兜底”的思路非常符合岗位要求面试官听完通常会点头。4. 工程落地类必问RAG 与智能体容错到了这一块面试就进入实际项目深挖的环节了。现在大模型落地最火的就是两个方向一个是把私有知识库接进去的 RAG一个是让模型自己调用工具做任务的 Agent。这两个也是你简历上大概率会出现的项目面试官必然会顺着往下问。4.1 第五个必考题RAG 和微调怎么选知识库搭建怎么落地“有了私有知识你会用 RAG 还是微调”这个问题的潜台词是你真的理解这两者的边界吗RAG 的核心思想是把知识放到 prompt 的上下文里模型根据检索到的片段来回答。它的优势是知识更新快、可溯源、训练成本低。微调则是把知识刻进模型的权重里适合改变风格、格式和系统行为但新知识容易学不牢而且每次更新知识都要重新训练一次。所以业务中常见的选择是动态变化的知识用 RAG固定输出规范和语气用微调。两者从来不是非此即彼甚至可以一起用——用微调让模型“学会调用 RAG”而不是“学会知识本身”。面试官大概率会追问 RAG 的具体链路这里有几个细节你最好能讲出来。第一步是切分chunk 设多大要看你文档的类型。我曾经见过有人把整本 PDF 塞进一个向量库里导致检索颗粒度极差。常见经验值是每块 300 到 500 token同时保留 50 到 100 token 的 overlap避免把一句话从中拦腰切断。第二步是 embedding 模型选型不一定越大越好中英文混合场景可以考虑 bge-m3 或 text-embedding-3 系列。第三步是召回很多人以为一个向量查询就完了实际上在专业领域关键词匹配往往非常重要所以推荐的关键词 BM25 与向量检索做混合召回。第四步是重排把召回的前几十条结果再过一遍 rerank 模型挑出真正相关的三五条塞进 prompt。还有一个细节值得提很多人在做个人知识库或企业知识库时素材往往是 Markdown 笔记、PPT、PDF 混在一起。我记得有人分享过用 Obsidian 管理“第二大脑”然后想把笔记接进 LLM 问答最常见的坑就是按固定字数切分把标题和正文拆散了检索出来全是碎片。更好的做法是先按 Markdown 标题段落切再对过长段落二次切分。面试时主动讲这种踩坑经历比念概念有用得多。4.2 第六个必考题Agent 的规划、记忆、工具调用和容错控制Agent 相关问题现在已经从“会不会调工具”升级到了“容错和可靠性”。你光做一个会调用搜索的 Demo 没用面试官会追问“如果工具返回异常格式或者模型调错了 API你会怎么办”先说最基础的架构理解。LLM Agent 至少包含四部分模型本身、规划器、记忆、工具集。模型决定“下一步做什么”规划器负责拆解任务记忆保存之前的中间结果工具集提供外部能力。最常见的实现方式是 ReAct 循环模型看到观察结果生成一个思考根据思考选择一个动作动作执行后获得新观察再继续循环。你能把这个循环讲清楚已经及格了。但真正拉开差距的是容错控制。现在业界有个共识Demo Agent 满地走可靠 Agent 不好做。你需要至少能说出这几种容错手段。第一是输出解析容错很多模型所谓的“函数调用”实际上要求输出严格 JSON你需要在代码里做异常捕获和二次修复。第二是工具失败降级如果主工具超时或返回错误码可以设计备用工具或简化回答路径。第三是重试与重规划规定最大重试次数如果反复失败就让模型重新规划子任务而不是无限卡死。第四是安全护栏给工具加权限控制避免模型误删或调用危险指令。如果你还想涉及些系统设计可以提“可验证性”Agent 完成一个任务后最好有一步校验机制比如查询数据库后对比结果数量或者写文件后重新读取检查。这正是标题里“自主容错控制”想表达的构建可靠 AI 系统的关键不是让模型不犯错而是让系统能从错误中自愈。面试时只要能把“错误类型 处理策略”对应起来说面试官就会觉得你真正做过程序员式的思考。5. 部署评测类必问GGUF 量化与业务评测聊完应用面试官会开始考察你的“落地”能力。这两个问题是最能看出“纸面工程师”和“实战工程师”差异的地方。很多人简历上写“部署过大模型”其实是拿别人封装好的包一键运行。一问到量化一问到评测就露馅了。5.1 第七个必考题本地跑模型GGUF 量化等级怎么选这几年 GGUF 这个词出现频率越来越高。在手机、笔记本、服务器上跑开源模型GGUF 几乎是绕不开的格式。面试官问这个问题是想确认你有没有真正碰过部署。GGUF 是 llama.cpp 社区推出的一种模型存储格式。它把模型权重、tokenizer、采样参数、甚至一些模型配置都打包在一个文件里。它最大的价值是方便分块量化配合 llama.cpp、Ollama、LM Studio 这些工具一台普通电脑甚至安卓手机都能跑起来。这里有个热搜词是“安卓本地运行 gguf 格式 llm”确实现在有些 Android 8 以上的设备也能通过相关 App 跑小参数的量化模型典型的场景就是离线翻译、本地摘要、私有聊天助手。我们需要理解量化档位带来的取舍。常见的有 Q2_K、Q3_K、Q4_K_M、Q5_K_M、Q6_K、Q8_0 等。通俗说就是权重精度降低了多少。以 7B 模型为例FP16 全精度大约需要 14GB 空间Q8 大约降到 7GB 左右Q4 大约在 4GB 左右Q2 则只有 2-3GB。显存或内存越紧张量化就得越狠但极端量化也会导致能力明显下滑。量化档位相对模型体积适用场景我的建议FP16约 2GB/十亿参数显存充足、追求极致效果服务器上优先Q8_0约 1.1GB/十亿参数质量敏感且能接受体积保留接近全精度Q5_K_M约 0.75GB/十亿参数质量与体积比较平衡有内存余量时推荐Q4_K_M约 0.55GB/十亿参数常规本地部署首选大多数场景够用Q2_K约 0.35GB/十亿参数内存极小的设备测试不建议生产用我在本地跑 7B 模型时通常先用 Q4_K_M因为它在中文问答上的损失很小但内存压力能减少一半多。跑起来后发现一个更重要的瓶颈推理速度主要吃内存带宽量化让每次读取的字节变少所以速度反而变快。面试时可以把这个“为什么量化不仅减少占用还能提速”叫带宽效应讲出来这比单纯背数字有说服力得多。顺带一提有些面试官会追问 GGUF 和 AWQ、GPTQ 有什么区别。你可以简单说GPTQ/AWQ 是先对权重做量化、在推理框架里加载而 GGUF 更像是把量化权重和一些推理配置打包成统一文件方便分发和跨平台使用。虽然技术路线不同但目标都是“用更少资源换尽量接近的效果”。能说出这个层面这道题基本就算答透了。5.2 第八个必考题怎么评测一个大模型在业务里是否真的能用这题是我觉得最值得认真准备的因为它考察的不只是技术水平还有工程判断力。面试官想听的是你不是只看榜单刷分的人而是知道模型到底能不能上线的人。先说基准测试的问题。公开 benchmark 比如 MMLU、CEval、Open LLM Leaderboard 上的分数可以当作通用能力的参考但直接拿它来判断业务效果往往会被坑。原因很简单这些榜单有数据污染风险而且很多问题跟你的真实用户问法完全不重合。所以我会建议一张“分层评测”的框架模型层用困惑度 PPL 等指标做快速排查语言任务层用 ROUGE、BLEU、精确匹配这些文本相似度指标业务层则用你自定义的问答集加人工评估。具体来说你需要构建自己的评测集。从线上日志里抽一批真实问题然后由业务方或标注团队写出标准答案再定义评分维度比如相关性、忠实度、完整性、格式正确性。如果涉及长文本摘要可以加无侵权、无幻觉、关键信息覆盖率等指标。这样评测出来的成绩才是你向业务方汇报时真正能用的依据。我见过有人把一个 7B 量化模型跑在 MMLU 上只落后全精度一点就高高兴兴上线结果在真实垂类问答里大量出错就是因为评测集和真实场景相差太远。现在也有不少工具可以做模型评估比如一些开源评测框架会把任务加载、推理、算分串起来像 DeepSeek Harness 这类名字会出现在一些社区讨论中本质上就是帮你跑测试集、出报告。但框架只是辅助真正值钱的是你评测集的质量和 badcase 分析。面试时最好能讲一个具体案例测试中发现模型总把日期回答错你去查数据发现训练样例里日期格式不统一然后你修了标注规范并进行二次评测这才是面试官想听的完整闭环。6. 面试现场答题结构与自救方法前面讲了八个问题但很多人听完之后还是会担心就算我理解了内容面试时一紧张还是会语无伦次。这一章我专门讲答题的现场表现。这部分不是原理解析但往往比原理解析更能决定你是否被淘汰。6.1 面试官期待的答题“四层结构”我发现自己和其他同事在面试时其实不期待候选人对任何技术问题都能一字不差地答对。我们更期待的是对方能在一分钟内组织出“定义—原理—权衡—例子”的结构。举个例子面试官问“什么是思维链”。差的答法是“思维链就是让模型一步步思考。”好的答法是先定义——思维链是在 prompt 中引导模型生成中间推理步骤再讲原理——这是为了让模型把解码过程按步骤展开减少一步跳到结论带来的错误再说权衡——它能提升复杂推理任务但会增加 token 消耗、可能暴露中间偏见信息最后给例子——比如数学题里“先列出已知条件再求解”。这个结构能让你即使面对不确定的问题也有一条腿可以站立。平时训练时可以用这个结构做口头复述练习。拿一个模型术语比如“MHA”“KV Cache”“LoRA”规定自己两分钟内必须按四层结构讲完。练多了你会发现面试时大脑就算空白身体也会帮你维持答题节奏。6.2 真的答不上来怎么把场面救回来总会遇到你不会的问题这是不可避免的。关键在于你面对“不会”时的反应。实在不会就不要硬编那是致命伤。更好的做法是先承认这个点没有特别深入看过然后立刻把你了解的相关部分说出来并尝试做一步推断。比如面试官问“LongLoRA 的原理细节”你只是听说过名字完全没看过论文。这时你可以说“这个名字我印象中和长上下文微调相关我的知识储备还停留在稀疏注意力和位置编码外推这个层面我猜测它可能是在 LoRA 基础上对长序列做了窗口或分组设计。如果面试官能给我提示我可以尝试分析一下。”这段话里有诚实、有已有知识、有推导尝试面试官至少能看到你的思考意愿。反过来如果你沉默 20 秒面试官就算想帮你都无从下手。救场的另一个技巧是“反问边界”。听不懂问题时可以问“您指的是训练阶段的处理还是推理阶段”这能展示你的框架感还能帮你争取思考时间。但要注意别把反问当成逃避不能每个问题都反问那样会让人觉得你在兜圈子。6.3 最后再做个小提醒把题变成自己的话我本人面过不少人也被人面试过。我的体会是这八个问题没有一个是靠“死记标准答案”通过的你必须在理解的基础上用自己的语言重新组织一遍。有一个特别有效的准备方法把这八个问题写在一张卡片上然后不看任何资料用录音机给自己讲一遍。讲的过程中卡壳的地方就是你没理解透彻的地方。等你什么时候能对着手机把每个问题讲得让一个外行也能听懂你在面试里多半就稳了。如果你担心临场紧张我还有一个小技巧面试前找一个安静的地方把每个题目的核心一句话写下来。比如 Transformer 那题我的核心记忆句就是“并行 短路径 位置编码”RLHF 那题是“监督热身 奖励模型 策略搜索保稳”。这些不是标准答案而是属于你自己的压缩饼干。进面试场前再看一遍你会发现这些词会自动展开成一整套解释。面试结束再复盘时你也会更清楚自己到底是真的懂还是只是在装作懂。