做过技术面试官也被人按在椅子上拷打过LLM项目细节。最近半年我翻了翻往年的面试记录发现一个很实际的现象大模型岗的面试题看起来五花八门但真正起筛选作用的“分水岭题”来来回回就那么几道。标题里说的这8个问题不是我拍脑袋凑出来的而是在几十场面试里反复出现、能把候选人明确分成“可以继续聊”和“只能礼貌送走”两类的高频题。这8个问题覆盖了LLM的原理理解、生成控制、工程落地三个层面不偏不怪全是岗位描述里默认你懂、实际上很多人一开口就露馅的内容。这篇文章我会把每一道题拆开讲清楚面试官到底在问什么、一个能过关的回答应该包含哪几个角度、什么样的说法一听就是死记硬背以及追问环节通常会往哪个方向拐。适合准备转岗大模型方向的工程师、正在系统梳理知识体系的同学以及想弄明白团队面试标准的朋友直接参考。1. 面试官的出题逻辑8个问题的共同骨架先说一个很多人忽略的点面试官出这8道题不是为了考倒你而是为了快速判断你的知识是“用过”还是“研究过”。用过的人能说出模型在真实场景下的表现和局限研究过的人能解释它为什么这样工作。只有背过面经的人才会在第三轮追问里原形毕露。8个高频问题大致可以放进三张表。考察层面必问题实际想收集的信号原理层1. Transformer为什么能成为LLM的底座是否真的读过结构而不只是会喊“自注意力”原理层2. Tokenizer怎么工作有哪些坑是否理解模型输入的源头以及分词带来的工程影响生成控制层3. temperature/top-p/top-k怎么配合是否理解生成过程是概率采样而不是“查答案”生成控制层4. 上下文窗口为什么重要是否知道长文本场景的瓶颈在哪、业界有哪些解法工程应用层5. LLM幻觉怎么治是否有过线上问题排查经验而不是只背结论工程应用层6. RAG和微调怎么选是否具备技术选型的判断力工程应用层7. 量化为什么能提速是否理解端侧/服务端部署的基本约束工程应用层8. 从预训练到对齐的完整链路是否理解数据、训练、对齐在整个大模型体系里的位置注意看这8个问题的分布前面4题考你对“模型本身”的理解后面4题考你“模型能不能被用稳”。面试官要的不是8个孤立答案而是你脑子里有没有一张完整的LLM地图。答不上来直接淘汰淘汰的不是某一道题而是整张地图缺了一个角后面生产环境里出问题就是迟早的事。2. 原理层必问题拆解Transformer和Tokenizer2.1 必问题1为什么Transformer能成为LLM的底座这道题几乎出现在每一场LLM面试的前15分钟里。低分答案通常是这样“Transformer用了自注意力机制所以能捕捉长距离依赖效果比RNN好”。这句话没错但信息量约等于零面试官一听就知道你没深入想过。一个能过关的回答应该拆成三层。第一层自注意力让每个位置的token都能直接看到序列里的所有其他token一步建模全局依赖。RNN的问题在于信息要沿着时间步一步一步传路径长了就衰减就算有LSTM的门控机制也还是会丢远距离信息。Transformer用矩阵乘法一步把所有token两两之间的关系算出来这是结构上的优势。第二层可并行计算。RNN的每一步都依赖前一步的输出没法并行Transformer能把整个序列同时喂进去算注意力训练效率完全不在一个量级。大模型需要海量数据和上千亿参数如果没有并行能力训练成本会高到不现实。第三层光有注意力还不够Transformer还需要位置编码。注意力机制本身对token顺序完全无感你把“我喜欢你”和“你喜欢我”打乱顺序注意力算出来的结果是一样的。所以必须把位置信息塞进输入里经典的sinusoidal位置编码和现在常用的RoPE旋转位置编码都是在解决这个问题。这里有个高频追问自注意力公式里为什么要除以根号d_k因为点积结果的方差会随维度变大而变大如果不缩放softmax的输入落在梯度饱和区训练会非常不稳定。除以根号d_k本质上是把方差拉回来。能答到这一层的候选人多半是真读过Attention Is All You Need。2.2 必问题2Tokenizer是怎么工作的有什么坑很多人会把Tokenizer当成小事但它是模型输入的源头分词怎么切模型就看到什么。我面过一位候选人能把Transformer架构画得清清楚楚问他中文一句话会被切成几个token当场愣住这就很减分。回答这个问题首先要讲清楚分词的三个层级word级、character级、subword级。word级简单粗暴但词表大、OOV未登录词问题严重character级不会OOV但序列太长模型要学的组合规律太多subword级是折中方案既能覆盖大部分常见词又能用子词组合出未见过的词BPE就是最主流的subword算法。然后要说明BPE怎么构建初始词表是单字符集合然后统计语料里相邻字符/子词的出现频率每次把频率最高的一对合并成一个新子词不断迭代直到词表达到目标大小。做数据标注的人应该理解这个逻辑因为在清洗和标注训练语料时分词结果会直接影响后续数据配比的质量。高频追问有两个。第一个词表是不是越大越好不是。词表大了Embedding矩阵的参数量跟着涨训练和推理的内存压力都变大而且稀疏词学不好。第二个中英文分词的差异在哪中文没有天然空格边界切分更依赖BPE对字/词频的统计同一个词的tokenizer不同切出来的结果可能完全不同。这个细节在实际做多语言模型时非常关键。2.3 原理层常见的翻车表达我在面试记录里总结了三个高频翻车点。第一个是把自注意力说成“给每个词打个注意力分数”。这句话粗糙到会带偏你自己。注意力不是给单个词打分而是计算每两个token之间的相关权重然后按权重去加权融合value向量本质是信息路由不是重要性打分。第二个是分不清Tokenizer和Embedding。Tokenizer负责把文本变成token ID序列Embedding是把token ID映射成稠密向量这是两个完全不同的环节。有人会说“token就是embedding”一旦开始追问就会越描越黑。第三个是背公式但说不清动机。能写出softmax(QK^T/√d_k)V但问“为什么用点积不用加法注意力”就沉默。模型选点积是因为计算高效而且能被矩阵乘法加速这在GPU上极其重要。原理层的回答宁可少讲一个细节也要保证每个说法都能被追问到底。3. 生成控制层必问题拆解解码策略和上下文窗口3.1 必问题3temperature、top-k、top-p怎么配合这题问的是你对生成过程的理解。很多人把LLM生成当成“模型从词表里选一个最可能的词”这个理解在greedy decoding时勉强成立但你打开ChatGPT的接口文档看到temperature就知道事情没那么简单。正确的理解是模型在每一步生成时输出的其实是词表上每个token的概率分布然后从这个分布里采样一个token作为结果。temperature、top-k、top-p都是采样策略里的参数它们控制的是“这个分布怎么被使用”。temperature的作用是调整分布的尖锐程度temperature越低分布越尖锐高概率token更突出temperature越高分布越平坦低概率token也有机会被抽到。极端情况下temperature设为0分布锐化成确定性选择退化成贪心解码。top-k和top-p做的是同一件事截断采样空间只不过方式不同。top-k固定保留概率最高的前k个tokentop-p则是动态选择累加概率达到阈值p的最小token集合。top-k的缺点是k固定在不同语境下合适的候选数量会差很多top-p自适应得更好所以现在实际项目中top-p更常用。回答时最好给出一个组合经验先定top-p固定采样范围再用temperature调随机性不要把temperature调得很高然后还用严格的top-p那会把分布弄得很奇怪。举个具体例子做客服问答我一般用temperature0.3、top_p0.9知识密度高的任务更低做创意写作会放开到temperature0.8、top_p0.95。这个回答的价值在于展示你对参数的感受是来自实验不是来自文档。追问方向通常是beam search为什么在生成任务里越来越少见因为它是全局搜索近似容易产出重复和呆板的文本而且计算成本高在LLM时代被采样方法取代了。能把这个逻辑讲顺说明你不是只会调API。3.2 必问题4上下文窗口为什么重要上下文窗口决定模型一次能“看到”多少内容它直接卡住了两个产品功能长文档理解和多轮对话。你要是把超过窗口的内容塞进去模型的表现会断崖式下降这不是模型变笨了是KV Cache和注意力计算在物理上撑不住了。回答这题要有一条主线窗口限制来自注意力机制的内存开销。Transformer的注意力矩阵大小随序列长度平方增长序列翻一倍显存占用翻四倍。KV Cache存的是历史token的Key和Value你每生成一个新token都要拿它的Query去和所有历史的Key做匹配所以历史越长推理开销越大。延长上下文窗口的常见方案有四种RoPE旋转位置编码配合外推、滑动窗口注意力、稀疏注意力、以及直接增加训练时的序列长度。RoPE是目前最值得展开讲的方案它把位置信息编码成旋转角度让相对位置关系自然融合进注意力计算对外推友好。能提到“RoPE的内插和外推差别”面试官基本会认定你是看过代码的人。这个地方可以自然带到一个工程场景本地端侧部署。现在很多人想在安卓设备上跑GGUF格式的开源模型GGUF是llama.cpp生态里的量化模型格式专门为了在内存受限的设备上跑LLM设计的。但端侧内存本来就紧张拉长上下文会让KV Cache暴涨所以实际落地时通常把上下文限制在2k-4k再配合KV Cache量化来省内存。如果你既懂原理又知道端侧怎么权衡这题就能答出层次。追问方向外推为什么可能掉点因为模型训练时见过的位置范围是有限的外推让它在没训练过的位置上做注意力数值分布不对齐效果自然退化。长文本评测为什么难做因为切割方式不同、关键信息位置不同结果波动会很大。3.3 生成控制层的两个实战提示第一面试官喜欢追问“用户多轮对话把上下文撑爆了怎么办”。不要只回答“截断最早的”那会丢关键信息。更好的回答是分级处理最近几轮完整保留更早的历史压缩成摘要再做基于检索的关键历史召回。这套说法在真实产品里就是主流做法。第二别把采样参数和推理加速混为一谈。有人会把“降低temperature让输出更稳定”说成“提升了速度”这是概念级错误。采样参数只影响概率分布的选择和推理速度没有任何关系提速度要聊的是量化、批处理、KV Cache复用这些方向。4. 工程应用层必问题拆解幻觉、RAG与微调、量化、对齐链路4.1 必问题5LLM幻觉怎么治幻觉是大模型落地最棘手的问题这题本质是在考你的问题排查和工程治理能力而不只是背书。先讲清楚幻觉从哪来。模型训练目标只是预测下一个token它学习的是语料里的统计相关性没有“事实信念”这个概念。再加上训练数据本身有噪声、知识有时效性、采样过程有随机性模型编造出看起来合理但实际错误的内容一点都不奇怪。一句话幻觉不是bug是语言模型的副产品。接着讲怎么治按源头、过程、出口三层拆。源头层训练时做数据清洗、知识注入、RLHF阶段加事实性奖励成本最高、见效也最持久。过程层在生成时用RAG把外部知识喂进去或者用约束解码强制生成走合法格式和受限词汇。出口层对生成结果做事后校验比如调用搜索引擎、知识库、规则引擎去核对关键实体和数值发现不对就拒绝回答或者提示重试。如果想加分一定要提到智能体和容错控制的关系。现在很多人在做基于LLM的智能体模型一旦在中间步骤产生幻觉就会生成错误的工具调用参数或者编造一个不存在的API。这时候光靠RAG不够必须在系统层面加校验工具调用前后做schema检查、执行失败后自动重试、结果置信度过低就回退人工。这也是构建可靠AI系统的核心工程思想——不要把可靠性赌在模型不犯错上而是在确定性边界上做护栏。4.2 必问题6RAG和微调怎么选这道题几乎是技术选型的必考。我见过不少候选人把RAG和微调对立起来其实它们解决的是两种不同的问题。RAG解决的是“模型知识不够新、不够准”的问题核心做法是先检索知识库里的相关内容拼进上下文里让模型参考。优点是知识可实时更新、可以溯源、训练成本低缺点是依赖检索质量、会占用上下文空间、模型可能被无关检索内容干扰。微调解决的是“模型行为不符合预期”的问题比如希望它输出特定风格、遵循特定指令、学会用某个工具。优点是不用每次请求都带一堆检索内容行为更稳定缺点是数据标注成本高、训练周期长、知识更新要重新训练。选型判断标准用一个很简单的模型知识型问题优先RAG行为型问题优先微调多数产品最终是两者叠加。比如做一个金融客服助手专业知识问答靠RAG接实时数据和合规文档回答语气和工具调用规范靠SFT微调底模底座。值得展开的是RAG的链路细节很多人只会背“切块-向量化-检索-重排”问深一点就卡壳。切块大小怎么定这没有标准答案要看你的检索粒度如果你希望答案粒度是合同条款中的某一小节就别把整份合同切成一个块。检索效果怎么保证要做向量检索和关键词检索的混合召回再做重排序模型把不相关的段落压下去。有人会提LangChain这类LLM框架确实在搭原型时很方便但生产环境里必须自己控切分策略、重排逻辑和可观测性框架本身不保证效果。4.3 必问题7为什么量化能提速GGUF端侧落地怎么选这题出镜率极高因为大模型部署绕不开推理优化而量化是最直接的手段。回答分两层量化为什么能提速以及量化会带来什么代价。LLM推理时的主要瓶颈往往不是算力而是显存带宽。每一步生成都要把全部参数从显存搬到计算单元参数越少搬得越快。把权重从FP16压到INT8显存占用和带宽压力大概降一半压到INT4再降一半。同时权重变小意味着同样显存能塞下更大模型或者能塞下更多历史token的KV Cache这又间接影响上下文长度。量化方式要能分清楚PTQ训练后量化在模型训练完之后用校准集统计权重分布直接把FP16权重映射成INT8或INT4成本低、上手快QAT量化感知训练在训练过程中模拟量化误差精度损失更小但需要重新训练成本高。大部分开源模型走的是PTQ路线。然后自然落到GGUF。GGUF是llama.cpp生态的模型格式设计目标就是跨平台、支持CPU推理、支持低比特量化。想在安卓上跑7B或8B模型基本都是下载GGUF格式的量化文件再配合本地推理引擎加载。实际选型要看设备和任务位宽内存占用适合场景注意点FP16 / BF16高服务器GPU、对精度敏感的任务显存不够时直接OOMINT8中服务端推理、CPU部署精度损失通常很小INT4低手机/端侧、内存吃紧的设备数学推理、中文效果可能明显下降不少人在这一步栽跟头以为量化是白嫖的性能提升。实际不是这样INT4在长上下文、数学、代码任务上效果退化是常见的上线前必须用业务评测集把量化模型和原模型跑一遍对比。追问方向顺理成章那为什么量化后的模型容易“变笨”低精度数值扰动在了长序列前向计算里不断累积越往后偏差越明显。4.4 必问题8从预训练到对齐的完整链路是什么这道题考察你对大模型全流程的认知宽度。一个完整的大型LLM项目大致走过三个阶段。预训练阶段核心是数据和算力。语料要清洗、去重、过滤低质内容还要按领域设计配比。这个阶段模型学到的是语言能力和世界知识但它的行为还是“胡乱接话”的——你问它问题它可能接着续写而不是回答你。这就是为什么需要后面的对齐。SFT阶段用人工标注的指令数据做有监督微调教模型“用户问什么我就答什么”。这个阶段最大的变量是数据质量。做过数据标注的人都知道如果标注员对指令的理解不一致同一类问题答案风格能差出十万八千里模型会把这种不一致原样学进去。所以SFT数据的质量审查比数量重要得多这也是为什么“数据标注”在大模型时代不仅没消失反而门槛更高了。RLHF阶段先训练一个奖励模型来模拟人类偏好再用强化学习去调整策略模型让输出更符合“人类觉得好”。现在越来越多项目直接上DPO因为公式更简单、训练更稳也能达到类似效果。这个链路题的答题结构很清晰能力来自预训练行为来自对齐。如果面试官让你把某一环节展开优先选你能结合数据标注实际经验的部分展开。比如预训练语料配比失衡会导致哪些能力短板或者SFT数据里混合了不同语言的指令该怎么处理这些比背“三阶段”要打动人得多。4.5 工程层容易被追问的两个隐含点第一个隐含点模型能力边界在哪里。面试官问RAG、量化、对齐其实都在试探你是否知道模型的短板。回答每个方案时主动提一句“这个方案的局限是什么再说”印象分会明显不一样。第二个隐含点离线评估怎么做。不管你讲RAG还是量化都该有一个闭环评测集设计、badcase回收、回归对比、迭代。很多人能说出方案名但说不出“怎么知道做对了”这会让面试官怀疑方案到底落没落过地。5. 面试实战回答结构、追问应对和加分细节5.1 用“三层叙事法”回答任何一题不管是上面8道题里哪一道回答结构都可以套一个三层框架一句话定义解释为什么落到自己的项目。这样面试官既能快速抓住你的理解能力又能听出你的实践经验。举个例子被问到量化。第一层定义。“量化是把模型权重从FP16/FP32压到INT8或INT4核心收益是降低显存占用和带宽压力让模型跑得更快甚至能跑在CPU和手机上。”第二层为什么。“LLM推理时每生成一个token都要把参数搬一遍瓶颈在带宽不在算力所以参数少了每次搬运的数据量就降下来了。代价是低比特量化会带来精度损失尤其对数值推理和长上下文更敏感。”第三层项目实践。“之前我们部署8B模型时FP16显存不够换INT8刚好能跑速度大概提升1.5倍但业务问答的准确率掉了不到1个点这个损失可接受。后来尝试INT4评测集掉到了94%以下我们就没上。”这套三层结构本质上是在强迫你把“知道什么”和“做过什么”连起来面试官追问的空间也被你提前堵住了。5.2 被追问到知识边界怎么接技术面试一定会追问到边界这反而是最能拉差距的环节。低分做法是硬编一个答案或者绕回自己熟悉的话题高分的做法是干脆承认这一步没做过然后立刻展示你下一步会怎么排查。你可以直接说“这个点我实际实现中确实没有深究过但如果让我来定位问题我会先看变量A和变量B。比如假设是KV Cache引起的我会先量化出内存曲线再看是不是超出了预算如果不是我再检查是不是位置编码外推导致数值异常。”这种回答展示了工程思维即使没给出标准答案也比胡编强十倍。记住一句话面试官要的是能一起debug的同事不是背答案的复读机。5.3 几个能让印象分明显提升的小习惯第一个每个回答尽量带数字。不要说“速度提升了很多”要说“P99延迟从320ms降到210ms”不要说“效果好很多”要说“评测准确率从82%提到89%”。数字让人觉得你真的上过线。第二个主动讲失败尝试。讲故事时不要只讲成功路径讲一次RAG召回率低、后来你怎么发现问题在切块粒度太大这个真实感比任何优化技巧都强。第三个把知识点引回自己项目。面试官问temperature你可以说“我们在做客服系统的时候temperature从0.7调到0.3发现拒答率明显下降了”一句话就把通用知识点装进自己的项目容器里。最后说点个人感受。我每年面几十场下来最大的体会是能通过的人不一定每个公式都背得滚瓜烂熟但一定对自己做过的事情边界极其清晰。如果你正在准备LLM岗位别急着刷几十篇面经先拿这8个问题对自己做一次模拟面试每个问题都追问一句“这个知识点放在我自己的项目里出了问题我会怎么定位”——能把这一层答顺比背十页答案都管用。