发生了什么
发布; UKG 开源 Llama 4(700B 参数)、中篇分析
为什么值得关注
内容包含具体技术细节和版本数据，价值足以获取
信息来源
以下内容来自公开来源，可打开原文继续核验。
01
01
Kimi 开源 K3 模型，2.8T 参数全权重放送
月之暗面开源 K3 模型，总参数 2.8T，MoE 架构，激活参数 104B，原生支持 100 万上下文，并开源 FlashKDA 推理内核、MoE 通信库、Agent 训练环境等底层技术栈。通过 KDA 注意力和 AttnRes 架构创新，单位算力智能密度提升 2.5 倍，长上下文解码速度提升 6 倍。
值得跟进