1965 年美国哲学家休伯特·德雷福斯在兰德公司完成的研究报告《Alchemy and AI》把当时轰轰烈烈的人工智能研究比作中世纪炼金术。炼金术士用了几百年试图把铅变成金子早期 AI 研究者则在实验室里试图用逻辑、符号和规则让机器产生人的心智。德雷福斯的判断是这两件事表面上都在做严谨实验但起点可能都是同一个错误前提。放到今天看这份报告的标题已经成为一个每次技术热潮都会被重新提起的隐喻因为大语言模型时代同样有一批人认为再堆数据、再调参数机器就能“真正思考”。这篇文章不做哲学史复述而是把德雷福斯的分析框架拆开用深度学习、大语言模型和 AI 工程实践作为检验材料回答三个问题他的批评哪些真的应验哪些已经被技术绕过以及今天的项目团队如何避免把自己的 AI 项目做成新的炼金术。1. 德雷福斯与 1965 年的 AI 现场1.1 当时的主流叙事机器很快就能思考要理解德雷福斯 1965 年的批评得先回到当时的 AI 现场。1956 年达特茅斯会议正式提出“人工智能”这个术语之后第一批研究者信心极强。纽厄尔和西蒙的“通用问题求解器”能解一些逻辑和符号题目麦卡锡设计出了 Lisp 语言机器翻译项目拿到大量经费当时的公开演讲和报道里经常出现“二十年内机器将达到人类智能水平”这类判断。西蒙甚至在 1957 年做过一个后来被广泛引用的大胆预测十年内计算机将击败国际象棋世界冠军并证明重要的数学定理。在那个时间点AI 不是被看作一门尚未成熟的技术而是被看作一个已经选定路线的学科。这条路线就是“符号操作”把知识和推理都表示成形式化符号再用规则程序去操作这些符号。今天看来这不是 AI 的唯一可能路线但在 1965 年左右它几乎是整个领域的公约数。1.2 一个哲学家为什么要闯进 AI 会场德雷福斯是麻省理工学院哲学系教授办公室离 AI 实验室不远和明斯基等人有过直接交流。1965 年他在兰德公司完成了《Alchemy and AI》这份报告后来又在同事中传阅并引发争论。他的立场很特别他不用“程序还能改进”这种工程视角批评 AI而是从现象学传统出发直接质疑 AI 的基础假设。他引用海德格尔、梅洛-庞蒂对“人在世界中存在”的分析认为人的智能依赖身体、习惯、语境和默会知识这些都无法被改写成一套形式规则。这种外行视角在 1965 年很容易被当成哲学家的傲慢。但从结果看德雷福斯提出的问题一直留在 AI 的历史里如果智能的本质不是规则计算那所有靠规则计算堆出来的成果都只是在另一个赛道上自娱自乐。这个判断后来以“框架问题”“常识推理困难”“专家系统脆弱”等形式反复出现。1.3 炼金术这个比喻为什么很锋利德雷福斯用炼金术做比喻并不是为了骂人。炼金术的特点很值得玩味目标非常明确要把贱金属变成金子参与者都是正经学者甚至牛顿这样的顶级科学家实验方法、设备和文献积累了几百年。但它最终没有炼出金子因为前提错了。真正形成化学这门学科恰恰是从放弃“变金”这个具体目标开始的。德雷福斯的逻辑是AI 如果沿着一套错误的前提走下去也会出现类似局面——程序越来越复杂论文越来越多成果越来越精巧但离“造出心智”这个目标越来越远。更关键的是他给这个比喻留了口子炼金术虽然失败了却留下了蒸馏、煅烧、物质分类等实验传统成为化学的前身。AI 也可能在失败过程中产生一门“关于智能机器的化学”只是这门学科未必兑现最初造出人类智能的承诺。理解这个层级是读通《Alchemy and AI》的前提它不是一句简单的“AI 不行”而是一个关于学科前提、目标错位和科学进步的判断。2. 德雷福斯的解剖工具早期 AI 的四条核心假设德雷福斯后来在《What Computers Cant Do》里把早期 AI 研究拆成四条核心假设。这里用今天的术语重新表述并逐条说清楚为什么每一句都值得较真。2.1 生物假设大脑是不是一台数字计算机第一条假设认为大脑本质上像数字计算机一样工作处理信息的方式是一系列离散操作。早期 AI 研究者并不见得真的研究过神经科学但他们默认机器的计算方式和人脑的思维方式是同一类东西。德雷福斯的反驳是这个命题没有任何证据支撑。神经元的放电不是严格二值的简单开关神经系统包含大量并行、模拟、自组织的机制大脑和计算机的架构差异远比表面上大。他并不否定神经层面存在信息处理而是反对把“大脑像计算机”当成不需要验证的起点。这条假设在今天的讨论里仍然活跃。深度学习兴起后一部分人相信神经网络已经证明大脑就是计算系统另一部分人则认为计算隐喻只是有用的抽象不能推出人脑的智能可以被数字系统完整复现。德雷福斯当年没有给出结论但他坚持要求这个假设被当作“待验证命题”而不是公理这个方法论在今天依然成立。2.2 心理假设智能是不是规则操作第二条假设认为人的心智可以被看作一个按照形式规则操作信息符号的装置。这个假设比生物假设更接近 AI 程序的实现方式既然程序是规则驱动的那么人的思维方式也应该是规则驱动的。德雷福斯反对的正是这一点。他用技艺和直觉做例子一个有经验的医生看 X 光片不是先枚举规则再推理出结论而是直接“看出”问题一个老司机开车不是在每条路上都重新计算而是依靠整体的情境感。这些能力的特点是当事人自己都说不出具体规则但行为高度有效。如果规则提取不出来而智能又确实存在那智能就包含了超出规则的部分。2.3 认识论假设默会知识能不能全部显式化第三条假设直接支撑专家系统的设计所有知识都可以被形式化表达专家的经验可以被改写成显式规则。这条假设最容易理解错它不是说“专家很厉害所以值得学习”而是说“专家能说清楚自己知道的一切”。德雷福斯从现象学出发指出人类的绝大多数知识是默会的像游泳、骑自行车、识别熟人面孔、判断一句话是否冒犯这些能力无法通过问卷和访谈完整提取。专家能告诉你一部分规则但真正让专家成为专家的是那些说不出来的判断力。这就是后来“知识获取瓶颈”问题的哲学源头专家系统做得再大也只是专家语言的转录不是专家能力的复制。2.4 本体论假设世界是不是一堆独立事实第四条假设是隐含在符号 AI 里最深的世界可以分解成客观的、去语境化的事实程序只要处理这些原子事实就够了。德雷福斯用海德格尔的“上手状态”来说明一把锤子在其完整意义上并不是“一个木头柄加一块铁”而是“用来敲钉子的工具”一个房间不只是一个物体集合而是一个让生活得以进行的场所。意义来自情境和行动目的不是事实自带的性质。如果程序员只把世界编码成一张事实表程序就永远缺少“这件事在这个情境下意味着什么”的维度。这四条假设放在一起构成了一个完整的知识体系大脑是计算机心智是规则系统知识可以全部说出来世界可以全部枚举。每一条都很自然但每条都只是假设。假设早期 AI 默认德雷福斯的反驳今天的检验生物假设大脑像数字计算机神经机制未被证明是符号计算神经科学与深度学习的映射关系仍在争论心理假设心智就是形式规则操作直觉与技艺无法还原成规则深度学习证明非规则方法也能完成不少认知任务认识论假设知识可以全部显式化大量知识是默会知识大模型通过统计学习吸收了隐性知识但可靠性存疑本体论假设世界由独立事实组成意义依附于情境与目的机器人需要具身交互才能理解物理世界3. 哪些预言在 AI 历史上真的应验德雷福斯 1965 年的判断不是抽象的哲学玄思很多内容后来以具体工程失败的形式重现。这一节看他哪些判断被历史检验为正确的哪些明显失手。3.1 框架问题常识推理为什么一直难1969 年麦卡锡和海耶斯发表论文正式命名“框架问题”一个智能体在状态变化后怎么知道哪些事实需要重新考虑、哪些事实可以保持不变。这句话听起来很像逻辑学里的细节但它背后是德雷福斯说的本体论假设困境如果世界被表示成一大堆独立事实那么任何一次行动都需要检查所有事实是否变化计算量会迅速爆炸。后来机器人领域用“相关性问题”描述同样的问题一个房间里的机器人要倒水它需要知道杯子是容器、水会受重力影响、桌面上其他物体不会突然跳到杯子里。人类并不需要显式检查这些但符号系统必须逐一维护。一直到今天让机器人在开放物理世界里自主规划仍然是大规模部署的瓶颈德雷福斯对“事实表世界观”的批评并没有过时。3.2 第一次 AI 冬天与专家系统的天花板1970 年代机器翻译项目效果远差于预期AI 研究经费被大规模削减史称第一次 AI 冬天。这背后正是德雷福斯反对的心理假设和认识论假设研究者以为用规则模拟推理就能覆盖复杂人类知识结果发现规则数量每增加一个量级冲突和例外就会增加更多。1980 年代专家系统再次尝试把领域知识写成规则德雷福斯警告的问题以“知识获取瓶颈”的形式出现领域专家很难把自己的判断外化为规则即使外化出来规则系统一到边界案例就出错。下面这个极简示例可以说明规则系统的结构性问题# 伪代码一个“专家规则”的边界 def diagnose(patient): if patient.fever and patient.cough: return 流感 if patient.fever and patient.rash: return 麻疹 if patient.fever and patient.joint_pain: return 登革热 # 现实世界还有几百上千条规则组合之后立刻爆炸 return unknown这段代码的问题不在规则太少而在于每加一个症状组合就必须新增一条规则真实世界没有尽头规则系统永远在打补丁。这正是德雷福斯说的“知识不能全部显式化”在工程上的直接体现。3.3 莫拉维克悖论与具身智能的迟到机器人学者后来总结出一个“莫拉维克悖论”对人类来说很难的棋类计算计算机很容易对人类来说毫不费力地拿杯子、走路、认脸计算机却非常困难。这个观察在经验上支持了德雷福斯的核心观点——身体技能和默会知识不是简单的低阶任务而是智能中最难复制的部分。直到 2010 年以后深度学习在视觉、语音和运动控制上取得突破机器才真正开始处理感知和动作问题而“具身智能”成为前沿研究热点已经是近五年的事。德雷福斯强调的身体、情境、交互这三个要素不是被当初的符号 AI 解决了而是被搁置了几十年最后由深度学习重新捡起来。3.4 哪些判断明显失手德雷福斯并不是每次都正确。最有名的失手是国际象棋。他早期认为机器永远无法达到大师级棋力因为下棋需要直觉而直觉无法用规则穷举。1997 年“深蓝”击败卡斯帕罗夫等于在具体场景上否定了他的判断。另一个失手在感知机领域。他跟随明斯基和帕佩特的观点认为单层感知机做不了通用模式识别这在单层网络上是数学结论但多层神经网络后来用完全不同方式绕开了这个限制。所以德雷福斯的历史形象是复杂的他诊断出了符号 AI 的深层问题但他对“机器能力上限”的很多具体断言过于绝对。正确看待他的方式是把他当作框架批判者而不是预言机器上限的先知。4. 深度学习与大模型时代对德雷福斯的再检验4.1 统计学习绕开了“规则必须显式化”大语言模型的出现正面回应了德雷福斯的认识论假设但它不是通过符号规则而是通过统计学习做到的。模型在海量文本上学习分布规律能回答很多需要常识的问题能写出符合语境的句子能完成部分推理任务。这证明了一件德雷福斯当年不认为可行的事大量默会知识尤其是语言里的知识可以通过数据驱动的方式被机器捕获而不需要专家把它们写出来。从工程角度看这是 1965 年几乎没有人能预料到的路线。德雷福斯的批评默认了“计算机只能按显式规则工作”而深度学习把这个问题绕过去了规则不是写出来的是训练出来的。这意味着他对早期符号 AI 的批评依然有效但并不能直接推广到整个 AI 领域。4.2 幻觉、无根基与常识缺口仍然存在但绕过规则不等于解决智能。大模型最突出的问题——幻觉——恰好对应德雷福斯说的“无根基性”。模型能生成流利话语却无法确认自己说的是否与世界相符它没有持续行动的载体无法通过实际结果校正错误。一个模型如果连续产生合理但不真实的回答和炼金术士自信地宣称“再试一次就能炼出金子”在结构上有些相似。另一个问题是分布外崩溃。训练数据覆盖内的题目表现很好稍微改变措辞、增加反事实条件、进入罕见场景性能可能急剧下降。这和“事实表世界观”的缺陷属于同一种模式系统依赖统计到的模式而不是对世界因果结构的理解。4.3 具身智能重回前沿德雷福斯最坚持的论点是智能必须有身体、有交互、有技能习得过程。今天这个大方向得到了主流研究的部分承认机器人领域开始把大模型接入物理体做视觉-语言-动作模型智能体研究强调环境反馈和工具调用世界模型被当作下一代通用智能的关键技术之一。这些努力的共同点是不再认为“给模型更多文字”就足以达到强智能而是让它进入世界、获得反馈、产生代价和后果。当然具身化是不是必要条件仍然没有定论。语言系统是否能在足够数据量下涌现出完整的世界模型是当前争论的核心。德雷福斯的遗产是把这个争论从哲学边缘带到了主流视野里。4.4 一条对账表1965 年的判断与今天的现实议题德雷福斯 1965 的立场今天的现实判断知识显式化不可能全部写成规则深度学习证明大量知识可被统计捕获部分过时常识推理规则系统无法覆盖常识大模型能回答部分常识但分布外脆弱方向正确机器学习棋类无法达到大师级深蓝 1997 年击败卡斯帕罗夫明显失手身体技能必须依靠具身和默会知识机器人技能学习长期困难近年才有突破经验上成立意义与情境脱离情境就没有智能幻觉与无根基问题持续存在仍然有效5. 工程视角一个 AI 项目怎样避免变成炼金术德雷福斯当年批评的是整个领域但同样适用于单个项目。今天的 AI 项目失败很少是“模型不先进”造成的更多是把演示当能力、把指标当理解、把论文当产品。5.1 炼金术思维在项目里的三个典型症状第一个症状是演示成功即自我满足。团队用一个精心挑选的测试集跑出“惊艳效果”就认为产品已经成立。第二个症状是指标崇拜。排行榜分数涨了几个点就声称模型能力提升实际上评测集与训练数据分布高度重叠分数只反映记忆。第三个症状是边界模糊。产品文档里不写模型做不到什么只写能做什么上线后用户遇到边界场景就投诉。这三个症状的共同来源是混淆了“系统在这个样本上表现好”和“系统掌握了这项能力”。德雷福斯批评炼金术时说的正是这一点实验每次都成功目标却从未接近。5.2 三个最常见的坑演示正确、评分失真、规则幻觉结合今天的项目管理实践下面三个坑最值得写进排错手册。坑错误现象为什么会错推荐做法把演示集当验证集演示视频效果完美真实用户一用就崩演示样本经过挑选无法代表真实分布建立独立的分布外测试集演示完成后必须跑回归只测平均指标平均准确率 95%但所有失败都集中在高危类别平均分掩盖了类别不平衡和严重失败按类别、场景、输入长度拆分指标列出失败模式让专家口头给规则就上生产专家说“这个很简单按几条规则走就行”系统上线后不断出错专家传达的是显式规则丢掉了默会判断让专家参与标注而非写规则用数据验证规则效果这三个坑每天都在真实项目中发生。前两个是工程方法问题第三个是 1965 年那个认识论假设的现代翻版。5.3 从学习环境到生产环境的验证链路学习环境里跑通一个 notebook和生产环境里稳定运行一个服务完全是两件事。学习环境只需要验证模型“潜在可行”生产环境必须验证输入、输出、异常分支、成本和安全。推荐按这个顺序搭建验证链路# 示例分布外测试的骨架 # 用于回答“模型在没见过的样本上还能不能正常工作” import csv def evaluate(predict, samples): total 0 failures 0 for row in samples: prediction predict(row[input]) if prediction ! row[expected]: failures 1 print(FAIL, row[id], row[input], prediction) total 1 accuracy (total - failures) / total print(faccuracy{accuracy:.2%} failures{failures}) return accuracy这段代码的重点不是写法而是样本集的选取规则样本必须来自真实使用场景、覆盖正常和异常输入、与提示词调优时使用的数据分开。如果做不到任何准确率数字都没有意义。数据拆分原则可以参考下方表格阶段目标数据要求常见错误开发调试让模型快速跑通少量典型样本用同一批样本反复调提示词回归测试防止提示词改坏旧能力多批次历史样本忘记加入失败案例分布外测试检验真实泛化独立采样的真实用户输入让团队成员手写“很像训练数据”的样本上线监控检测线上漂移匿名化线上日志只在出问题时才看日志5.4 发布前检查清单任何 AI 功能上线前建议逐项核对下面这份清单。它不是流程官样文章而是直接对应本文前面讨论的“避免炼金术”原则。成功指标是否绑定业务价值而不是只绑定模型指标。是否独立评估了分布外样本而不是只报告评测集分数。是否列出了模型已知的失败模式并写了兜底策略。是否有明确的降级路径模型不可用时系统能否退回到规则或人工。是否接入日志和监控能够定位“哪条输入触发了哪类错误”。是否设计人工复核闭环尤其是高风险输出场景。是否确认训练数据的有效期和更新机制数据失效后模型会退化。是否评估成本与延迟模型效果再高不可持续就没有生产价值。是否由非项目成员做了黑盒验收避免团队自证清白。是否明确写出“这项能力目前做不到什么”。清单的用处在于强行把“演示成功”和“生产可用”分开。很多 AI 项目在线下评估时显得很强恰恰是因为没有回答清单里第 2、3、5 条。6. 德雷福斯的遗产从论文标题到今日争论6.1 一份报告如何变成三部曲《Alchemy and AI》是德雷福斯 AI 批评的起点。1972 年他把报告扩写成《What Computers Cant Do》1992 年修订为《What Computers Still Cant Do》书名从“不能做”变成“仍然不能做”本身就说明他对“机器能做很多事”这一点有所让步。1986 年他与斯图尔特·德雷福斯合著《Mind over Machine》进一步讨论专家系统在管理决策中的局限。对技术读者来说最值得注意的是他在 1992 年修订版里认真讨论了神经网络的进展。他没有简单嘴硬而是承认连接主义在某种程度上绕开了他批评的“显式规则”路线但依然认为缺乏具身交互的纯网络系统无法形成完整的人类智能。这个姿态值得学习批判者如果永远不更新观点就和被批判的学科一样没有进步。6.2 不造心智但留下学科回到炼金术的比喻。今天的 AI 是不是炼金术取决于评价标准。如果目标是“造出与人类一样的心智”那目前没有任何系统能做到德雷福斯式的怀疑依然有效。如果目标是“在语言任务上替代或辅助人类”那大模型已经是严肃的工程成果不能简单斥为炼金术。真正有价值的问题是AI 学科最终会不会像炼金术到化学那样在放弃“造心智”这个初始目标之后形成一套更扎实的关于智能、表示、学习与评估的科学。目前能看到的最接近这种“化学”的东西是评测体系、可观测性工程、对齐研究和对失败模式系统的整理。它们不性感但它们是学科成熟度最高的部分。6.3 AI 工程师真正该带走的东西德雷福斯没有给出任何代码或模型但他留下了三个可供工程落地的方法论第一把“能力”和“表现”分开。系统能生成听起来合理的回答不等于掌握了对应知识能通过评测集不等于能在真实世界泛化。第二明确系统边界。任何时候都要回答“这个系统的外围在哪里、什么输入它会崩、失败时怎么降级”。第三保留数据与行为的验证习惯而不是靠语言说服自己。模型是否好、规则是否对最终要用独立数据来检验而不是用感受和演示。如果一个 AI 项目团队能从 1965 年这份报告里带走一条教训那就是在多数情况下伪造进步比实现进步容易得多而工业界唯一能对抗这件事的办法是把评测、边界、失败模式和回滚方案当成和模型参数一样重要的工程质量来建设。真正的“化学”不是模型的涌现能力而是围绕模型建立起来的可验证的系统纪律。