发生了什么
月之暗面 发布 Kimi K2.5 技术创新组件(开源优化器MuonClip、注意力Kimi Linear、残差Attention Residue，效率提升24%)
为什么值得关注
差异点：提供了优化器、注意力、残差连接三个基础组件的具体替代方案及实验数据，且全部开源，值得实践验证。
信息来源
以下内容来自公开来源，可打开原文继续核验。
01
杨植麟在 GTC 2026 演讲：如何扩展 Kimi K2.5
月之暗面在 GTC 2026 宣布开源三个替代 Transformer 基础组件：MuonClip 优化器（数据效率接近翻倍）、Kimi Linear 线性注意力（3:1 混合全注意力，首个全面超越全注意力的架构）、Attention Residue 残差连接（提升 24% Token 效率）。同时披露 Agent Swarm 支持 100-300 个并行 Agent，以及早期融合多模态训练中视觉任务反向提升文本推理能力。
打开原始来源 ↗