LEARNING
AGG：用于扩散模型高效GRPO训练的雅可比聚合组梯度
Ruiyi Ding, Jie Li, He Kang, Ziyan Liu, Chengru Song, Yuan chen
- 发表年份
- 2026
- 访问权限
- 开放获取
摘要
该论文提出JAGG方法，通过利用DiT隐藏状态沿轨迹的线性变化特性，将完整Transformer反向传播次数从W步减少到每组2步，显著降低了扩散模型强化学习训练的计算成本。实验表明该方法在保持性能的同时大幅提升了高分辨率文本到图像训练的可行性。
关键词
GRPOdiffusion modelsgradient approximationtraining efficiencyreinforcement learning
相关论文
LEARNING
📊 8,465 引用
The Organization of Behavior
D. O. Hebb
2005
LEARNING
📊 7,678 引用
Fractional Brownian Motions, Fractional Noises and Applications
Benoît B. Mandelbrot, John W. Van Ness
1968
LEARNING
开放获取📊 7,484 引用
Review of deep learning: concepts, CNN architectures, challenges, applications, future directions
Laith Alzubaidi, Jinglan Zhang, Amjad J. Humaidi 等 10 位作者
2021
LEARNING
📊 4,608 引用
A guide to deep learning in healthcare
Andre Esteva, Alexandre Robicquet, Bharath Ramsundar 等 10 位作者
2018