【技术解读】本文深度解析 Ziming Yu、Pan Zhou 等九位研究者于 2026-08-16 提交的论文《SubZero: Efficient Zeroth-Order LLM Fine-Tuning via Large Learning Rates》arXiv:2608.15665。核心问题——零阶优化ZO让大模型微调摆脱反向传播的显存依赖却长期困在梯度估计方差大、学习率极度敏感的老毛病里学习率稍一调大训练就崩。方法给三件配套解法一是破解多查询悖论——在固定前向传播预算下让 K 个查询共享同一个层特定低秩子空间投影矩阵 U、V 固定子空间内信号分量增强、正交方向噪声抵消方差下降不再被更新步数吃掉同时避开 O(d) 辅助状态保住推理级内存二是子空间 Adam 优化器——在低秩子空间内收集多查询梯度的一阶/二阶矩让步长随信号自动缩放三是 QR 符号校正——消除投影矩阵构造时的符号歧义保证 Haar 分布从根上杜绝实现依赖的方向偏差。实验横跨 OPT1.3B/13B/30B、LLaMA3.1-8B、Qwen2.5-32B 五个尺度Qwen2.5-32B 全参数微调达 87.4%比 SubZero 2.3、比 MeZO 3.8、比 MeZO-LoRA 10.7 个百分点LLaMA3.1-8B 与一阶 Adam 的差距仅 0.6 个百分点83.7% vs 84.3%LoRA 设置下 LLaMA3.1-8B 达 83.4%、OPT-30B 达 72.2%。稳定性上最优学习率 2×10⁻² 比 MeZO 的 1×10⁻⁴ 大 100 倍稳定平台约 3 倍宽内存上 OPT-13B 只需 27.9GB多查询 MeZO-Adam 需 97.2GB。对思陌微调落地的启示反传-free 让微调下沉到推理级资源可与 LoRA、全参数路线互补形成显存宽裕走 LoRA/全参数、资源吃紧走 SubZero的增量交付矩阵。零阶优化Zeroth-Order, ZO为大模型微调打开了一扇不用反向传播的门。2023 年MeZOarXiv:2305.17333第一次证明只用前向传播加上随机扰动来估计梯度就能在单张消费级 GPU 上微调几十亿参数的大模型显存占用从存下整个计算图骤降到推理级。这对资源受限的部署场景几乎是革命性的——它意味着能不能微调不再受限于能不能反向传播。但 ZO 也一直背着一个绕不开的硬伤梯度估计方差太大收敛不稳对学习率极度敏感学习率稍微调大一点训练就可能直接崩掉。2026 年 8 月 16 日Ziming Yu、Pan Zhou 等九位研究者在 arXiv 提交论文《SubZero: Efficient Zeroth-Order LLM Fine-Tuning via Large Learning Rates》arXiv:2608.15665用三个互补的改进把 ZO 微调从碰运气调参推向稳定可用。SubZero 首先要破解的是一个叫多查询悖论multi-query paradox的深层矛盾。直觉上用 K 个独立随机扰动求平均理论上能把每一步梯度估计的方差降到原来的 1/K。但在固定总前向传播预算下用 K 个查询意味着训练步数也缩成 1/K——方差下降的好处恰好被更新步数的减少所抵消于是净收益归零。SubZero 的思路是让这 K 个查询共享同一个层特定的低秩子空间投影矩阵 U、V 固定各查询的梯度估计在子空间基方向上对齐平均时子空间内的信号分量被增强而正交方向的噪声分量相互抵消。这样一来方差下降就转化成了真实的优化改进而不是被步数吃掉同时它避开了全空间多查询平均所需的 O(d) 辅助状态保住了 ZO “推理级内存这一核心优势。第二个改进是子空间 Adam 优化器subspace Adam。传统 ZO 多用 SGD 更新步长靠手工设定这在高方差梯度下尤其脆弱。SubZero 在低秩子空间内收集多查询梯度的统计量用 Adam 的自适应一阶/二阶矩来做更新让每一步的步长随子空间内的梯度信号自动缩放——相当于把该走多大步这件事也交给数据去决定而不是交给运气。第三个改进最隐蔽、却同样关键用 QR 分解构造子空间投影矩阵时存在一个符号/方向歧义同样的数学对象不同实现可能得到符号相反的投影方向导致训练结果对实现细节敏感。作者给 QR 构造加了一个符号校正sign correction保证投影矩阵服从 Haar 分布从根上消除这种实现依赖的方向歧义”。实验横跨 OPT1.3B/13B/30B、LLaMA3.1-8B、Qwen2.5-32B 共五个尺度在 SuperGLUE 上同时覆盖全参数微调与 LoRA 两种设置。最亮眼的是Qwen2.5-32B 的全参数微调SubZero 平均准确率达到 87.4%比上一代 SubZero 高 2.3 个百分点、比 MeZO 高 3.8 个百分点、比 MeZO-LoRA 更是高出 10.7 个百分点。在 LLaMA3.1-8B 上SubZero 把与一阶 Adam 的差距压缩到仅0.6 个百分点83.7% vs 84.3%几乎追平了需要完整反向传播的一阶方法。LoRA 设置同样成立LLaMA3.1-8B LoRA 达到 83.4%比 MeZO 高 2.2 个百分点OPT-30B LoRA 达到 72.2%比 SubZero 高 2.8 个百分点。更关键的是稳定性这个 ZO 的老大难。在 Qwen3-0.6B 上做学习率扫描SubZero 的最优学习率高达2×10⁻²比 MeZO 的 1×10⁻⁴ 大了约100 倍它在 10⁻² 到 3×10⁻² 约3 倍宽的区间内都能保持 79% 以上的准确率学习率增大 1.5 倍只掉 0.5 个百分点。反观 MeZO学习率只要翻一倍准确率就从 83.3% 暴跌到 51.7%掉了超过 31 个百分点——一条稍越雷池就崩的悬崖曲线。内存上多查询的 MeZO-Adam 在 OPT-13B 上需要 97.2GB 显存而 SubZero 同配置只需27.9GB全参数微调场景下相对 MeZO 也仅多出约 1% 的开销完整数据见 arXiv:2608.15665 正文表格。对思陌大模型微调来说SubZero 的价值可以直接落到「推理部署」与「基座微调」两条业务线上。反传-free 意味着微调不再依赖完整计算图的反向传播可以把训练从需要大显存的训练机下沉到推理级资源的受限环境——这对那些希望在自己服务器、甚至边缘设备上做领域适配微调的客户是实打实的交付可能。而约 100 倍的最优学习率窗口、3 倍宽的稳定平台、翻倍仅掉 0.5 个百分点翻译成工程语言就是调参试错成本大幅下降、训练更省人力、更不容易在交付中途翻车。思陌完全可以把它作为低成本、反传-free 微调这条增量方案与既有的 LoRA、全参数路线形成互补显存宽裕走 LoRA 或全参数资源吃紧走 SubZero让能不能微调这件事从受限于硬件回归到受限于需求本身。参考文献arXiv: 2608.15665DOI: 10.48550/arXiv.2608.15665arXiv: 2305.17333MeZO 原始论文论文原文信息链接大模型微调如何摆脱反向传播的显存依赖SubZero 零阶优化大学习率方法解析注本文由 AI 辅助生成仅对论文做独立解读不代表原文作者观点。