1. 定位导航正则化系列第 4 篇——深度学习史上最重要的正则化创新之一：Dropout（Hinton 等，2012-2014）。Dropout 的故事很有趣：2012 年 AlexNet 拿下 ImageNet 冠军——核心 trick 之一就是 Dropout之后几乎所有 SOTA 网络都用 Dropout直到 ResNet 时代后，BatchNorm 部分替代了 Dropout但 Transformer 时代 Dropout 又回来了——BERT、GPT 都用要理解 Dropout，先理解它的祖先：Bagging。2. Bagging：模型平均的统计原理2.1 概念Bagging（Bootstrap Aggregating）：从原始训练集有放回地采样kk