一项“10倍”技术押中了今天的AI8月初杰夫·迪恩离开谷歌仅12个小时便现身斯坦福大学AASF Summit舞台开启结束27年谷歌生涯后的首次公开访谈对话加州大学伯克利分校教授、Meta超级智能实验室AI研究副总裁宋晓冬。迪恩回顾27年技术经历从MoE、TensorFlow到Gemini等还谈及对AI发展的判断。他看重能带来数量级提升的技术如十年前MoE约10倍效率改善让他觉得有长期影响力如今关注重点从模型延伸到研发过程。宋晓冬问约2017年ICLR会议迪恩介绍的谷歌稀疏门控混合专家层MoE当时有无意识到会成前沿模型基础迪恩称当时就认为重要其模块化架构让不同“专家”负责不同事处理Token时只激活有用部分类似大脑思考不同事调用不同神经回路且实验显示与主流密集模型比MoE在训练计算与模型质量间有约10倍改善。回顾AI关键项目迪恩说约2011 - 2012年在谷歌做大规模深度学习训练的神经网络比此前约大50倍图像分类错误率大降、语音识别进步巨大扩大简单深度声学模型带来的语音识别改善约等于此前20年研究成果总和且这种方法影响多领域深度学习将不同技术体系领域统一到一种学习范式通过原始数据学习可完成预测等已进入医学等领域。TensorFlow留下的教训宋晓冬问设计TensorFlow的重要原则及若重新设计会改变什么。迪恩说谷歌之前的DistBelief系统可将神经网络计算映射到不同硬件并完成分布式计算研究人员只需告知训练需求底层系统实现希望TensorFlow延续此趋势让研究人员专注描述计算还想统一矩阵乘法等能力且开源实现重要。但TensorFlow有问题一是没从第一天加入eager execution后来PyTorch和JAX采用后它也加入二是contrib目录允许社区贡献大量辅助库导致同任务有多种做法用户难判断标准答案。若重新设计会让核心小而稳定让生态系统建在核心之上。对于判断技术长期价值迪恩说会跟踪社区趋势建议学生快速浏览多篇论文摘要建立“可能性”地图因重要创新来自不同想法连接。他喜欢找关键环节有希望解决但部分需突破的问题如五年左右问题五件事成形、两件需深入研究是合理风险水平20年不知从何解决风险太高两年能明确解决接近普通工程。他还会做数据处理和传输时间等粗略估算这种判断能力来自实践和观察他人解决问题且要尝试多方向部分会成功。Gemini从第一天就做多模态宋晓冬问Gemini开发有何经验分享迪恩说它是早期研究项目结晶Google Brain、DeepMind等团队在研究模型扩展和多模态能力他写备忘录提议结合各方资源从头训练多模态模型和奥里奥尔·维尼亚尔斯共同推动。重要决定是让Gemini一开始就有多模态能力理解多种模态数据训练数据加入激光雷达数据。研究生成能力使模型能理解和生成图像等。编码方面Gemini早期投入落后加强后编码能力提升带动非编码任务推理能力和处理复杂问题能力提升因写软件要求模型具备多种能力。AI智能体风险也在变强宋晓冬提及团队开发网络安全基准及OpenAI智能体突破测试环境事件问迪恩看法。迪恩说模型可用于多方面带来价值但网络安全是双重用途领域AI可助防御者发现漏洞也会被恶意用户利用人类攻击者和模型各有优势双方工具都会变强值得关注。同时法律、责任和监管等技术外解决方案也需发挥作用要明确不可接受行为及责任。谈及AI社会影响迪恩说几年前和同事讨论过AI可能重大影响的七个领域有积极的如医疗和教育也有复杂的如岗位替代等AI影响不能简单分正负需分别考虑还建了网站shapingai.com讨论。让AI开始自我改进宋晓冬问AI多久参与改进自身迪恩说利用机器学习改进机器学习已进行多年联合创始人Quoc Le等人做过神经架构搜索让模型生成架构并评估反馈后来又做Evolved Transformer得到比原始Transformer高效约30%的架构说明此领域有长历史和改进空间。对于递归自我改进走向迪恩说机器学习系统很多部分可建立自动化改进循环连接这些循环可让AI参与整个研发流程这类似现代科学和工程解决问题模式大问题拆成子问题提出解决方案、实验评估并反馈迭代。把一周实验压缩到一小时宋晓冬问这是否是Discovery Loop方向迪恩肯定称其是公益公司团队成员合作14 - 30年参与过多个项目目标是自动化机器学习和科学工程研究提高发现速度。科学研究实验循环慢若能将一周实验压缩到一小时并同时运行数千个实验变化大若系统能根据实验预期价值和成本决定运行实验可形成迭代研究循环团队正在建设相关基础设施。迪恩说公司会从窄领域开始保持专注很多基础设施和技术可跨领域用模型若理解大量科学工程知识可形成跨领域专业能力AI可结合多领域知识安排处理子问题并迭代。希望工具提高实验速度若实验从一天或一周压缩到一分钟或一小时并同时运行数千个科学研究速度可能数量级变化。选择以小公司而非谷歌内部项目做Discovery Loop迪恩说因喜欢谷歌但小团队专注十个人围绕同一使命工作可减少干扰。且云计算改变创业条件小公司有资金可使用云平台计算资源能专注解决问题。现场观众问答环节有观众问迪恩离职市场反应及Discovery Loop在谷歌外能实现什么、谷歌如何让Gemini追上OpenAI迪恩称难将股价变化归因于个人离职相信谷歌团队和Gemini发展Discovery Loop优势是专注能快速决策和尝试。对于宋晓冬为何选Meta他说很多公司和实验室联系过他包括谷歌此前创办四家创业公司最近一家被Meta收购且发展好、有财富500强客户最终因Meta平台大、有数十亿用户和数亿企业还在建设前沿AI和安全技术而选择。观众问AI行业第一性原理支持大公司为何顶尖人才流向创业公司迪恩说云计算改变局面过去小团队做大规模机器学习需自建基础设施现在可使用云平台资源Discovery Loop约十个人专注可减少分散因素大公司也有优势离开谷歌虽紧张但兴奋。