发生了什么
NVIDIA Research 发布 Nemotron-Labs-TwoTower(30B模型, 2.42×加速)
为什么值得关注
该工作展示了将预训练自回归模型拆分为双塔进行扩散生成的新方法，无需额外训练即可显著加速，值得关注其技术细节和适用性。
信息来源
以下内容来自公开来源，可打开原文继续核验。
01
Nemotron-Labs-TwoTower: Diffusion Language
NVIDIA Research 发布 Nemotron-Labs-TwoTower 扩散语言模型，将 30B 参数的 Nemotron-3-Nano-30B-A3B 模型拆分为两半并行生成 token，无需从头训练。实验表明，该方法保留了原始模型 98.7% 的质量，生成速度提升 2.42 倍。
打开原始来源 ↗