发生了什么
Cohere 发布 Command A+(2 H100, 48 种语言)
为什么值得关注
这条同时给出了开源许可、部署门槛和相对上一代的速度/延迟提升,适合判断其是否可用于企业级推理与 Agent 场景。
信息来源
以下内容来自公开来源,可打开原文继续核验。
Cohere Command A+
Cohere 发布了 Command A+,称其为目前最强的 LLM,并将其开源,采用 Apache 2.0 许可。该模型已在 Hugging Face 和 vLLM 上提供,Cohere 还表示它可在最少 2 张 H100 上运行,输出速度比上一代 Command A 系列提升超过 2 倍,延迟降低 30%,并支持 48 种世界语言。
打开原始来源 ↗Cohere Command A+
Cohere 发布了 Command A+,并称其为目前最强的 LLM,同时将其开源。AK 转发称该模型已在 Hugging Face 上提供,采用 W4A4 量化,可显著降低 serving footprint,且性能几乎没有下降。
打开原始来源 ↗