W-Flow:基于Wasserstein流的一步生成模型

问题
当前图像生成领域的多种技术路径存在明显局限:扩散模型虽能生成高质量图像,但需反复调用网络数十甚至上百次,推理速度较慢;一步生成器虽可直接从噪声生成图像,却面临训练稳定性差、易丢失少数模式的问题;GAN依赖对抗训练,易出现训练不稳定的情况;何凯明团队提出的Drifting Model虽效果较好,但其基于人工设计的吸引力与排斥力,缺乏明确的优化目标,且难以覆盖小样本模式。
W-Flow正是为探索一步生成器的合理训练规则而提出的模型。
原理
可以用直观类比理解W-Flow的核心思路:将生成过程看作一群人从平原前往远处目标区域,扩散模型相当于每次都让这群人重新走一遍完整路径,而W-Flow则是在训练时让这群人移动,同时训练一个网络记录起点与对应终点的关系,训练完成后即可一步生成结果。
具体做法朴素且高效:把生成器输出的一批样本当作粒子,每轮为粒子指定一个移动方向,让其移动一小段距离后,训练生成器复现粒子挪动后的位置,通过多轮迭代,生成的分布会逐步逼近真实数据分布。
方向
粒子的移动方向是W-Flow的核心。论文定义了衡量生成分布与真实数据分布差距的指标,让分布沿该指标下降最快的方向移动,这一方向被称为Wasserstein梯度流。
所谓“最快”,取决于距离的衡量方式:Wasserstein距离(又称“推土距离”)衡量的是将一个分布转换为另一个分布所需的最小成本,在该距离下,每一步移动都是成本最低的搬运,这也印证了该领域长期的观点:重整化带来不同尺度,最优输运决定演化方向。
Drifting Model的力仅能保证分布匹配时力为零,反之不成立,力接近零时分布未必匹配,训练易在中途停滞;而W-Flow从明确的量出发推导方向,每一步都在让该量减小。
距离
论文对比了三种距离的效果:核距离在生成分布与真实分布差距较大时,信号几乎消失,粒子无法有效移动;KL散度需要用到当前生成分布的梯度信息,难以直接计算,只能通过估计得到,易引入误差;Sinkhorn散度基于最优输运,仅需样本即可计算,即使是远处的粒子也有明确的移动方向,实验效果最佳。
类比
可以用货物运输的类比理解W-Flow的方向计算:生成样本是待运输的货物,真实数据是容量固定的仓库,目标是总运费最低,允许货物按比例分配到多个仓库。分配完成后,每个样本对应的仓库位置取平均得到目标点,样本的移动方向由两项组成:前一项是样本向真实数据目标点的吸引力,后一项是样本向自身生成样本目标点的排斥力(带负号),防止所有样本聚集在一起。
这里的关键在于“全局”:分配需满足每个仓库都被填满,因此数据中哪怕是很小的类别也必须被覆盖,而局部力方法没有这个约束,样本会涌向最大的几个类别,导致小类别丢失。论文还证明,这个方向仅在生成分布等于数据分布时为零,中途没有假平衡点。
实现
为避免同一批样本分配时的偏差,排斥项需用两批独立样本计算,这样可消除样本自分配导致的零成本问题。将多步演化压缩为一步的方法是普通回归:先让粒子按方向移动一步,再让网络输出逼近移动后的位置,无需对抗训练或内层优化。
论文还证明,使用有限粒子、样本和步长的训练过程,会收敛到理想的连续演化,小批量训练的每一步都对应一条明确的轨迹。对于条件生成,可在原方向上叠加“有条件”与“无条件”方向的差值,实现引导。
结果
在ImageNet图像生成任务中,W-Flow的一步生成质量超过了Drifting Model,即使是参数量小得多的版本也能胜出。与画质相近的多步扩散模型相比,采样速度快了约两个数量级,训练轮数也少得多。
两个小实验验证了其设计思路:在包含几个大分布和两个远处小分布的二维数据中,Drifting Model会丢失小分布,而W-Flow能全部保留;在以老人为主、儿童极少的人脸数据集中,Drifting几乎不再生成儿童,而W-Flow仍能生成儿童样本。
重整化
论文还探讨了W-Flow与重整化的关联:Cotler与Rezchikov证明,精确重整化群的Polchinski方程等价于场的相对熵在最优输运几何下的梯度流。重整化是将场模糊化,熵随之增加,与热流使熵增属于同一类过程,而W-Flow使用的正是分布空间中的Wasserstein梯度流。
重整化是从细到粗逐层提取、舍弃细节,生成则是从粗到细逐层补回,W-Flow的演化从简单噪声出发走向复杂数据,方向与重整化相反,可视为逆重整化轨迹,但论文方法是直接设计通往数据的路径,而非逆转正向模糊过程,因此形态相近但构造不同。
解读
W-Flow的核心优势在于其平衡点唯一,即仅在生成分布等于数据分布时方向为零,训练过程中没有中途的假平衡点,而局部力方法易在中途变零,导致训练停滞。
数据中的每个类别可视为一个范畴,全局分配要求每个类别都被覆盖,因此即使是很小的类别也能被保留,而局部力方法会让样本涌向最大的几个类别,导致小类别丢失。选择合适的距离是关键,训练的核心是最小化两个分布的距离,距离的选择直接影响更新方向的合理性,论文对核距离、KL散度与Sinkhorn散度的对比,也验证了这一点。
论文将生成器的训练过程视为可设计的对象,用最优输运的几何规定方向,用一次全局分配照顾到每一类数据,再用简单回归将多步演化压缩为一步,为生成模型的训练提供了新的思路,也印证了该领域“世界沿最优输运方向演化”的观点,为相关理论提供了具体的生成模型实例。
题外
当前AI领域正处于快速发展且动荡的时期,社会各界对AI的讨论热度很高。行业内的核心参与者仍在专注于长期技术探索,提出了追平前沿模型的目标,相关领域研究者对此表示支持,认为追平与反超的前提是思想领先,如同奥运帆船赛,要领先就需探索新航道。相关研究团队一直致力于在抽象理论与具体方法之间找到平衡,为AI发展提供新的方向。
文献来源:One-Step Generative Modeling via Wasserstein Gradient Flows

