研究背景深度学习在判别式模型高维输入映射到类别标签如图像分类上取得巨大成功核心依赖反向传播、Dropout 和分段线性激活函数但生成式模型发展受限原因是极大似然估计等方法涉及难以近似的概率计算且难以在生成场景中利用分段线性激活函数的优势本文提出的 GAN 框架解决了这一痛点。特征维度回答的是「一个数据样本的属性 / 特征需要几个数值描述」想让模型学 “猫的图像分布”传统方法需要先算出「所有可能的猫图像的概率和配分函数」但猫的图像有无数种姿势、颜色、角度根本算不出来只能用 MCMC 反复采样 “近似猫的分布”但采样可能只停留在 “橘猫”学不会 “布偶猫”最终模型只能生成橘猫丧失多样性。核心框架GAN 由生成器G和判别器D两个多层感知器MLP组成G把无意义的随机噪声z,通过网络神经映射变成如同真实样本一样初始状态辨别器强因此总体是0后面慢慢的生成器开始发力然后总体的都是1/2核心训练方法讲清「怎么训」突出「简单高效」训练的核心原则交替训练 D 和 GD 训 k 步G 训 1 步原因是 “一次性把 D 训到最优计算量太大还会过拟合”训练的技术亮点仅用反向传播 Dropout生成样本仅需正向传播对比传统模型的 “马尔可夫链 / 近似推理”突出 GAN 的计算简洁性汇报时可加一句「这是 GAN 最核心的工程优势」。如何求期望因此等价于最大化就是不看积分那里然后求极值点