Signal Brief

LiveKit 优化 Gemma 4 31B 性能

LiveKit 在自家推理平台 LiveKit Inference 上部署 Google Gemma 4 31B 模型,在实时语音应用中实现接话延迟比 GPT-4.1 低 5.2 倍(192 毫秒对 1006 毫秒)、成本约六分之一(省 83%)的效果;酒店前台场景测试中任务完成率达 88%,超过 ...

twitter关注列表 小互 (@xiaohu) 发布 2026-07-17 收录 2026-07-17 观察

一句话判断

具体性能数据和真实场景测试结果可供语音 Agent 开发者参考和验证

核心信息

LiveKit 在自家推理平台 LiveKit Inference 上部署 Google Gemma 4 31B 模型,在实时语音应用中实现接话延迟比 GPT-4.1 低 5.2 倍(192 毫秒对 1006 毫秒)、成本约六分之一(省 83%)的效果;酒店前台场景测试中任务完成率达 88%,超过 GPT-4.1(73%)和 Gemini 2.5 Flash(64%);Gemma 4 支持 140 多种语言,其中 35 种以上开箱即用,中文支持良好;现有 LiveKit Agents 用户可通过单行配置迁移至 Gemma 4 31B。

原始内容

LiveKit 针对 Gemma 4 31B 进行优化 在实时语音方面比 GPT-4.1 快 5 倍、成本六分之一 LiveKit 上线一项新服务:在自家推理平台 LiveKit Inference 上跑 Google 新一代大模型 Gemma 4 31B 跟 GPT-4.1 比:接话延迟低 5.2 倍(首字 192 毫秒对 1006 毫秒)、成本便宜约 83%(大概六分之一) 酒店前台场景测试任务完成率 88%,超过 GPT-4.1(73%)和 Gemini 2.5 Flash(64%)... https://video.twimg.com/amplify_video/2078104529917411328/vid/avc1/1280x720/93XEwUynwlbZlOrV.mp4?tag=29 小互 (@xiaohu): Gemma 4覆盖 140 多种语言,开箱即用支持 35 种以上,中文在内 如果你已经在用 LiveKit Agents 搭语音 Agent,切到 Gemma 4 31B 只要加一行配置,把模型指过去 详细内容:https://t.co/efY58nlLNP

相关动态

01

Kimi K3 在 SpreadsheetBench 2 上排名第一

Kimi K3 在 SpreadsheetBench 2 基准测试中排名第一,超越 Claude Fable 5,完成 34.8% 的 workflow 任务。该基准测试涉及 321 个专家策划任务,平均每个任务包含 11.8 个工作表和 593.5 个单元格更改,聚焦于完整的电子表格工作簿执行。

twitter关注列表2026-07-18#模型#技术突破#评测
观察
02

Mind Lab 开源长文本强化学习项目

Mind Lab 开源了一个长文本强化学习(RL)项目,支持 2M tokens 的长上下文。相比以往需要数千个 GPU 的 1M 上下文研究,该项目仅需 8 个 GPU 即可完成,大幅降低了超长上下文研究的算力门槛。

twitter关注列表2026-07-17#开源#技术突破#模型
观察
03

Kimi K3非对称竞争分析

Kimi K3在Arena前端/WebDev人类盲测中以1679 Elo排名第一,领先Fable 5(1631)和GPT-5.6 Sol(1618),但在综合智能指数中仅排第四(57.1分),落后Fable 5(59.9)和GPT-5.6 Sol(58.9)。K3定价15美元/百万输出tokens,远低于Fable 5的50美元,并计划7...

twitter关注列表2026-07-18#AI#模型#技术突破
观察
04

二年级学生Jo Nagai发现蝴蝶可遗传记忆

日本东京都二年级学生Jo Nagai注意到养育的食蚜 caterpillars 在蝴蝶化后仍保持对薰衣草的回避行为,经Georgetown大学Entomologist Dr. Martha Weiss合作完成实验:70%训练过的蝴蝶及其后代均表现出对薰衣草的遗传性回避,记忆在全变态发育中保存并遗传。

twitter关注列表2026-07-18#研究#技术突破#信息
值得跟进
05

AI 代码生成大势所趋

Greg Isenberg 发文指出,相比一年前的手写代码实践,如今大多数工程代码已由 AI 生成,标志着编程范式的根本转变。他援引了 Google 75% 新代码由 AI 生成、Anthropic 90%+ 代码由 Claude 编写、GitClear 代码重复率上升 81% 复用率下降 70% 等具体数据,并引用 Dario Amod...

twitter关注列表2026-07-18#技术突破#行业动态#分析
观察