发生了什么
xenovacom 公布 Gemma 4 优化(255 tok/s on WebGPU)
为什么值得关注
此数据展示了 Fable 5 在端侧推理优化的具体效果，值得关注该工具的实际表现并尝试 demo。
信息来源
以下内容来自公开来源，可打开原文继续核验。
01
Fable 5实现Gemma 4 255 tok/s
@xenovacom 使用 Fable 5 编写内核，在 M4 设备上将 Gemma 4 在 WebGPU 上的推理速度提升至 255 tok/s，并公开了可浏览器试用的 demo。
打开原始来源 ↗