发生了什么
Poolside 发布 Laguna S 2.1(118B MoE 8B active 1M context)
为什么值得关注
关注其长上下文与高效 MoE 的平衡,适合在单卡部署场景下测试实际表现。
信息来源
以下内容来自公开来源,可打开原文继续核验。
Poolside 发布 Laguna S 2.1
Poolside 发布 Laguna S 2.1 模型,118B 总参数的 MoE 架构,每 token 激活 8B 参数,支持 1M 上下文窗口及思考/非思考模式,可单卡运行于 NVIDIA DGX Spark,全面开源并已在 Hugging Face 发布权重。
打开原始来源 ↗Poolside 发布 Laguna S 2.1
Poolside 发布 Laguna S 2.1 模型,总参数 118B 的 MoE 架构,每 token 激活 8B 参数,支持 1M 上下文窗口,提供思考和不思考模式,并完全开源。
打开原始来源 ↗Laguna S 2.1发布
Poolside 发布 Laguna S 2.1,118B 总参数 MoE 模型(8B 激活),上下文 1M tokens,支持思考和无思考模式,开放权重(OpenMDW-1.1),可在单张 NVIDIA DGX Spark 上运行。
打开原始来源 ↗