发生了什么
小米MiMo团队 发布 MiMo-V2.5系列(KVCache压缩至1/7,容量提升5倍)
为什么值得关注
文章揭示了模型架构优势如何转化为实际生产成本降低的具体技术路径,包括KVCache管理优化和SWA缓存难题解决方案
信息来源
以下内容来自公开来源,可打开原文继续核验。
01
最近大家看到小米的MiMo 模型的降价!
小米MiMo团队通过Hybrid Sliding Window Attention架构重构推理系统,将KVCache存储压缩到全注意力的约1/7,结合KVCache管理优化和MoE配置调优,使有效KVCache容量提升近5倍,缓存命中率稳定在93%-95%,最终实现120万token仅需3元多的API降价。
打开原始来源 ↗