1. 从预测下一个词说起大语言模型的本质是什么很多人第一次接触大语言模型时脑子里冒出来的问题是它是不是真的理解了我说的话。这个问题本身其实就跑偏了。要搞清楚大语言模型到底是什么得先放下理解这个人类中心主义的框架回到它最原始的运作机制上去看。大语言模型的核心任务用一句话概括就是给定一段文本预测下一个最可能出现的词。就这么简单。它做的事情本质上和你手机输入法联想下一个词没有本质区别只是规模大了几亿倍、参数多了几万倍、训练数据多了几十万倍。但就是这么一个预测下一个词的任务当模型足够大、数据足够多的时候涌现出了让人意外的能力——它能翻译、能写代码、能推理、能总结、能角色扮演。这些能力并不是程序员一条一条写规则写进去的而是从海量文本中长出来的。这里有一个关键认知需要建立大语言模型不是数据库不是搜索引擎也不是知识图谱。它更像是一张由人类语言痕迹绘成的世界地图。你问它一个问题它不是在某个表格里查找答案而是在这张地图上找到一条最合理的路径然后把沿途的风景用自然语言描述出来。这个类比值得展开说一下。想象你有一张巨大的地图上面标注了人类写过的几乎所有文字——论坛帖子、技术文档、小说、论文、新闻、代码注释、聊天记录。这张地图不是平面的而是高维的每个词、每个句子、每个段落都在某个位置上位置之间的关系反映了语义上的远近。大语言模型做的就是在这张地图上学会走路——给定一个起点你的输入它知道下一步往哪走最自然。所以当你问它法国的首都是哪里它不是在某个数据库里查到了巴黎而是因为在这张地图上法国附近经常出现巴黎首都这个词又把它们连接起来于是它沿着最自然的路径走到了巴黎。1.1 为什么预测下一个词能产生智能行为这个问题困扰了很多人。直觉上预测下一个词是个机械任务怎么可能产生看起来像理解的东西关键在于压缩即理解。当你要求一个模型用有限的参数去预测海量文本中的下一个词时它被迫学会了很多东西。为了准确预测苹果公司发布了新款___后面的词它必须知道苹果是一家科技公司、知道它发布的产品类型、知道这类新闻的常见措辞。为了预测一段代码中下一行是什么它必须理解代码的语法和逻辑。这就像你让一个人反复阅读几百万本书然后让他补全任意一个句子。为了补得准他不得不记住大量的世界知识、语言规律、逻辑关系。大语言模型做的事情本质上是一样的只是它读的书比任何人类都多得多。这里有一个常见的误解很多人以为大语言模型记住了训练数据中的每一句话。实际上它记住的是统计规律而不是具体文本。它学到的是什么样的词在什么样的上下文中更可能出现而不是某本书的第37页写了什么。1.2 参数、层数、注意力三个核心概念的生活化解释要理解大语言模型有三个技术概念绕不开参数、层数、注意力机制。我用生活化的方式解释一下。参数就像是地图上的刻度。参数越多地图越精细能标注的细节越多。一个70亿参数的模型相当于一张有70亿个刻度的地图一个千亿参数的模型刻度就多了一个数量级。但刻度多不等于地图一定好用还要看刻度标得准不准——这就是训练质量的问题。层数像是地图的层级。浅层模型只能看到这个词和那个词经常一起出现这种表面关系深层模型能看到这个段落的整体意思和那个段落的整体意思有关联这种抽象关系。层数越多模型能捕捉的语义层次越丰富。注意力机制是最关键的一个。它让模型在处理一个词的时候能够回头看前面所有的词并决定哪些词对当前这个词最重要。比如处理银行这个词时如果前面出现了河注意力会告诉模型这里的银行更可能是河岸的意思如果前面出现了存款那银行就是金融机构。这个机制让模型能够根据上下文动态调整对每个词的理解。2. 训练三部曲从鹦鹉学舌到对答如流大语言模型的训练不是一蹴而就的而是分阶段进行的。每个阶段的目标不同用的数据不同产生的效果也不同。理解这三个阶段你就能明白为什么同一个模型在不同任务上表现差异那么大。2.1 预训练在海量文本中学会说话预训练是大语言模型训练的第一阶段也是最耗资源、最耗时间的阶段。这个阶段的目标只有一个让模型学会预测下一个词。用的数据是什么基本上是能爬到的所有公开文本。网页、书籍、论文、代码、论坛帖子来者不拒。数据量通常以万亿词为单位计算。这个阶段训练出来的模型你可以把它理解成一个超级鹦鹉——它能流利地说出各种话但不太会跟人对话。预训练出来的模型有一个特点你给它一个句子开头它能很自然地续写下去。但如果你问它一个问题它可能会继续编更多问题而不是回答你。因为它学的是文本怎么继续而不是问题怎么回答。这个阶段最反直觉的一点是模型并不是在学知识而是在学语言的统计结构。但恰恰是这种统计结构蕴含了大量关于世界的信息。因为人类在写文本的时候已经把对世界的理解编码进了语言里。模型学语言就等于间接学了世界。2.2 指令微调从会说话到会听话预训练之后模型虽然能说会道但不太听指挥。你让它写首诗它可能给你续写一首诗你让它翻译它可能给你续写更多原文。这时候就需要第二阶段指令微调。指令微调的做法是准备大量指令-回答配对的数据让模型学会当看到这种指令时应该给出这种回答。比如指令把下面这句话翻译成英文今天天气很好。回答The weather is nice today.通过大量这样的样本模型逐渐学会了指令-执行的模式。这个阶段的数据量比预训练小得多通常只有几万到几百万条但质量要求很高。指令微调之后模型就变得听话了。你问它问题它会回答你让它写代码它会写代码你让它总结它会总结。但这时候的模型还有一个问题它不知道什么样的回答是好的回答。它只是模仿训练数据中的回答风格但可能生成有害内容、错误信息或者废话。2.3 人类反馈强化学习学会说人话第三阶段是让模型学会什么是好的回答。这个阶段通常用人类反馈强化学习RLHF来实现。具体做法是让模型对同一个问题生成多个回答然后让人类标注员对这些回答进行排序——哪个更好、哪个更差。然后用这些排序数据训练一个奖励模型让它学会给回答打分。最后用这个奖励模型去指导大语言模型让它生成得分更高的回答。这个阶段的效果非常明显。经过RLHF的模型回答会更符合人类偏好更有帮助、更诚实、更无害。它会拒绝回答有害问题会承认自己不知道的事情会用更自然的语气跟人交流。值得注意的是RLHF并不是让模型更聪明而是让模型更讨人喜欢。它优化的是人类偏好而不是事实准确性。所以经过RLHF的模型可能更圆滑但不一定更正确。这也是为什么有时候模型会一本正经地胡说八道——它学会了看起来像好回答的模式但内容可能是错的。3. 那张世界地图到底长什么样回到标题里的核心比喻大语言模型是一张由人类语言痕迹绘成的世界地图。这个比喻值得再深入拆解一下因为它能帮你建立对模型能力的直觉。3.1 地图上的地形语义空间的结构在这张地图上每个词、每个句子、每个概念都有一个位置。位置之间的关系反映了语义关系。意思相近的词位置也相近经常一起出现的词位置之间有道路连接。这张地图的地形不是平坦的而是有山峰和山谷的。高频出现的概念形成高峰低频概念形成山谷。地图上还有一些大陆和岛屿——不同领域的知识形成不同的区域。比如编程语言、医学、法律、文学各自形成相对独立的区域但之间也有桥梁连接。当你给模型一个输入时它实际上是在这张地图上确定一个起点然后沿着最可能的路径走下去。走的步数就是生成的词数每一步都选择当前最合理的下一个位置。3.2 为什么模型会迷路幻觉的根源理解了这张地图就能理解为什么大语言模型会产生幻觉——也就是生成看起来合理但实际上是错误的内容。原因很简单地图上有些区域是模糊的有些道路是断的。当模型走到这些区域时它没有足够的信息来确定下一步该往哪走于是它只能根据附近的地形猜测。猜出来的路径可能看起来很合理但实际上是错的。更具体地说幻觉通常发生在以下几种情况训练数据中缺乏相关信息地图上这片区域本来就是空白模型只能瞎猜。问题本身有歧义地图上有多个可能的起点模型选错了方向。模型过度自信模型学会了给出确定答案的模式即使它实际上不确定。一个实用的经验是当你问模型一个非常具体的事实性问题时如果它回答得特别流畅、特别确定反而要警惕。因为真正确定的知识模型会给出简洁直接的答案而模糊的知识模型往往会用大量修饰词来填充不确定性。3.3 地图的边界模型不知道什么这张地图有一个重要的特性它的边界就是人类语言痕迹的边界。模型知道的东西仅限于人类用语言表达过的东西。它不知道没有被写下来的知识比如某个老师傅的手艺诀窍语言无法精确描述的经验比如骑自行车的平衡感训练数据截止之后发生的事情需要实时交互才能获得的信息这个边界不是技术限制而是本质限制。只要模型还是从语言中学习它就永远受限于语言的边界。这也是为什么大语言模型需要和外部工具结合——搜索引擎、数据库、计算器——才能完成需要实时信息或精确计算的任务。4. 实际使用中的几个关键认知聊完了原理来说几个实际使用中非常重要的认知。这些认知直接决定了你能不能用好大语言模型。4.1 提示词的本质在地图上画一条更清晰的路很多人把提示词工程想得很神秘其实它的本质很简单你给的提示越清晰模型在地图上找到正确路径的概率就越高。一个模糊的提示相当于在地图上随便指了一个点模型只能自己猜你要去哪。一个清晰的提示相当于在地图上画了一条明确的路线模型只需要沿着走就行。具体来说好的提示通常包含这几个要素角色设定告诉模型你是谁相当于告诉它从地图的哪个区域出发。任务描述告诉模型要做什么相当于告诉它目的地在哪。输出格式告诉模型怎么输出相当于告诉它走哪条路。约束条件告诉模型不要做什么相当于告诉它哪些路不能走。这四要素不是必须全有但每多一个模型走错路的概率就低一分。4.2 温度参数控制模型的冒险程度温度temperature是大语言模型最常用的参数之一但很多人不理解它的实际含义。用地图比喻来说温度控制的是模型在每一步选择下一个词时的冒险程度。温度低的时候模型总是选择最可能的那条路输出稳定但可能单调温度高的时候模型会尝试一些不太可能的路输出多样但可能跑偏。具体来说温度值行为特点适用场景0-0.3几乎总是选最可能的词输出非常稳定事实问答、代码生成、数学计算0.4-0.7在可能和多样之间平衡一般对话、内容创作0.8-1.2愿意尝试低概率的词输出多样创意写作、头脑风暴1.3以上经常选低概率词输出可能不连贯实验性用途一般不推荐一个常见的坑是很多人用高温度做事实问答结果模型开始编造答案。这不是模型坏了而是你让它冒险它就真的冒险了。做需要准确性的任务时把温度调低。4.3 上下文窗口模型能记住多少上下文窗口是指模型一次能处理的最大文本长度。这个参数直接决定了模型能记住多少前面的内容。用地图比喻来说上下文窗口就是你给模型看的地图范围。范围越大模型能看到越多的地形做出越准确的判断。范围越小模型只能看到局部容易迷路。实际使用中上下文窗口的影响体现在长对话窗口越大模型能记住越早的对话内容。长文档处理窗口越大能一次处理的文档越长。复杂任务窗口越大能同时考虑的因素越多。但要注意上下文窗口不是越大越好。窗口越大计算成本越高而且模型对窗口中间部分的内容往往注意力不够——这就是所谓的迷失在中间现象。所以实际使用中重要的信息最好放在开头或结尾。5. 大语言模型能做什么、不能做什么最后来聊一个非常实际的问题大语言模型到底能做什么、不能做什么。这个问题没有标准答案因为模型能力在快速进化但有一些基本的边界是相对稳定的。5.1 模型擅长的任务类型根据实际使用经验大语言模型在以下几类任务上表现最好语言转换类任务翻译、改写、总结、润色、格式转换。这类任务的本质是把一种语言形式转换成另一种语言形式正好是模型最擅长的。模式识别类任务分类、提取、匹配、排序。这类任务需要从文本中识别出特定模式模型经过大量训练后在这方面很强。创意生成类任务写作、头脑风暴、起名、编故事。这类任务没有标准答案模型的冒险能力反而成了优势。代码相关任务写代码、解释代码、调试、重构。代码本质上也是一种语言模型在代码上的表现往往比在自然语言上还好。5.2 模型不擅长的任务类型以下几类任务模型目前还不太靠谱精确计算模型不是计算器做数学运算容易出错。需要精确计算时最好让它生成代码然后执行。实时信息模型的知识有截止日期不知道最新发生的事情。需要实时信息时要结合搜索工具。事实核查模型会生成看起来合理但实际错误的内容。需要高准确性的场景必须人工核查。长程推理模型在需要多步推理的任务上容易断链。虽然新一代模型在这方面有进步但复杂推理仍然不可靠。理解言外之意模型对反讽、隐喻、文化梗的理解还不够稳定。跨文化沟通时尤其要注意。5.3 一个实用的判断框架怎么判断一个任务适不适合交给大语言模型我总结了一个简单的框架问自己三个问题这个任务的输出有标准答案吗如果有模型可能给出错误答案需要核查。这个任务需要实时信息吗如果需要模型需要外部工具支持。这个任务的错误代价高吗如果高模型只能做辅助不能做决策。三个问题的答案越偏向否模型越适合越偏向是越需要谨慎。这张由人类语言痕迹绘成的世界地图还在不断扩展。新的语言痕迹每天都在产生地图的边界每天都在向外延伸。理解这张地图的本质不是为了膜拜它而是为了知道它哪里可靠、哪里不可靠哪里能带你到目的地、哪里可能让你迷路。这种判断力比任何具体的提示词技巧都重要。