一句话判断
首次开源2.8T MoE模型,架构创新带来2.5倍效率提升,建议阅读技术报告了解具体实现。
核心信息
Kimi(月之暗面)发布并开源其最强模型Kimi K3,采用2.8T MoE架构,具备原生视觉理解能力和1M token上下文窗口,新架构使智能每计算单元提升2.5倍。同时开放技术报告、高性能注意力内核、MoE通信库及agent基础设施。
原始内容
相关动态
Kimi K3技术报告发布
Kimi.ai发布Kimi K3技术报告,该模型为2.8T参数MoE,原生支持视觉理解,拥有百万token上下文窗口。报告详细描述了新架构Kimi Delta Attention,通过移除位置编码、注意力残差、分层训练等技术,实现约2.5倍于Kimi K2的扩展效率。
Kimi K3 开源权重发布
Moonshot 开源 Kimi K3 模型权重,参数规模 2.6T,在 Artificial Analysis Intelligence Index 得分 57,成为领先的开源权重模型。许可协议限制商用,要求营收超 2000 万美元的模型即服务企业另行协商,月活超 1 亿或月营收超 2000 万美元的商业产品需在界面显示“Kimi K3...
Microsoft 发布 MAI-Cyber-1-Flash 与 MDASH 多代理安全套件
微软发布 MAI-Cyber-1-Flash 模型和 MDASH 多代理安全套件。MAI-Cyber-1-Flash 在 CyberGym 基准上获得 96% 分数 Auss 领跑其他模型。
Jensen Huang 呼吁建立前沿AI防御生态
Jensen Huang 引用推文指出,Hugging Face 安全事件中封闭AI系统阻碍取证,而开源权重模型帮助遏制入侵,因此创立了Open Secure AI Alliance,主张开放与闭源模型共同构建防御生态。
NVIDIA 布局 Open Secure AI Alliance 开放安全联盟
NVIDIA 与包括 Michael Dell 在内的行业领袖共同发起 Open Secure AI Alliance,旨在开放工具共享研究应对人工智能安全问题,强调透明化技术协作对构建安全可靠的 AI 系统的重要性。