发生了什么
OpenAI 公布 推理成本优化(约减半,使用数百 GPU,毛利率目标 52%)
为什么值得关注
原文披露了 OpenAI 推理成本的具体降幅和 GPU 用量,对理解其竞争优势有参考价值。
信息来源
以下内容来自公开来源,可打开原文继续核验。
01
OpenAI 推理成本降低超一半
The Information 报道,OpenAI 发现新的推理优化技术,使模型运行成本降低一半以上。工程师透露,一度仅用几百块 Nvidia GPU 即可为免费用户提供 ChatGPT 服务。OpenAI 一季度毛利率为 39%,计划年底达到 52%。
打开原始来源 ↗