发生了什么
Cactus 开源 Cactus Hybrid 模型(基于 Gemma 4 2B)
为什么值得关注
首创在小模型上通过置信度分数实现动态本地/云端路由,且量化了路由触发比例,值得复现其置信度训练方法。
信息来源
以下内容来自公开来源,可打开原文继续核验。
01
Cactus Hybrid 基于 Gemma 4 开源
Cactus 团队基于 Gemma 4 2B 训练输出置信度的 Cactus Hybrid 混合模型,本地高置信度推理、低置信度路由至云端大模型,路由比例随领域基准在 15%-55% 间波动,模型开源权重并支持 MLX、llama.cpp 等框架。
打开原始来源 ↗