发生了什么
LiveKit 上线 LiveKit Inference 平台上的 Gemma 4(31B)
为什么值得关注
具体性能数据和真实场景测试结果可供语音 Agent 开发者参考和验证
信息来源
以下内容来自公开来源,可打开原文继续核验。
LiveKit 优化 Gemma 4 31B 性能
LiveKit 在自家推理平台 LiveKit Inference 上部署 Google Gemma 4 31B 模型,在实时语音应用中实现接话延迟比 GPT-4.1 低 5.2 倍(192 毫秒对 1006 毫秒)、成本约六分之一(省 83%)的效果;酒店前台场景测试中任务完成率达 88%,超过 GPT-4.1(73%)和 Gemini 2.5 Flash(64%);Gemma 4 支持 140 多种语言,其中 35 种以上开箱即用,中文支持良好;现有 LiveKit Agents 用户可通过单行配置迁移至 Gemma 4 31B。
打开原始来源 ↗