发生了什么
Kimi 开源 FlashKDA(1.72x-2.22x speedup)
为什么值得关注
开源实现提供了具体的加速数据,值得关注并尝试集成到现有框架中。
信息来源
以下内容来自公开来源,可打开原文继续核验。
01
Kimi开源FlashKDA内核
Kimi团队开源了FlashKDA(基于CUTLASS的Delta Attention内核),在H20上相比flash-linear-attention基线实现了1.72x-2.22x的预填充加速,可作为即插即用后端。
打开原始来源 ↗