发生了什么
Anthropic 为 Claude API 推出 Cache diagnostics 测试版,用于比较相邻请求差异并诊断缓存失效原因。
为什么值得关注
这项更新能显著提升排查缓存命中率、降低延迟和成本的效率,适合做 Claude 集成和多轮对话系统的工程师关注。
信息来源
以下内容来自公开来源,可打开原文继续核验。
01
Anthropic 在 Claude API 中新增了 Cache diagnost
Anthropic 在 Claude API 中新增了 Cache diagnostics(测试版),可通过传入上一条响应的 id 来定位两次请求在模型、system prompt、tools 或消息历史中的首个分叉点。该能力解决了 prompt caching 失效时只能看到 cache_read_input_tokens 下降、却难以定位原因的问题,对依赖长上下文和缓存优化的开发者有直接价值。
打开原始来源 ↗