← 返回精选动态
精选动态

Anthropic 在 Claude API 中新增了 Cache diagnost

Anthropic 为 Claude API 推出 Cache diagnostics 测试版,用于比较相邻请求差异并诊断缓存失效原因。

更新于 2026年05月19日 02:20 1 条公开来源

发生了什么

Anthropic 为 Claude API 推出 Cache diagnostics 测试版,用于比较相邻请求差异并诊断缓存失效原因。

为什么值得关注

这项更新能显著提升排查缓存命中率、降低延迟和成本的效率,适合做 Claude 集成和多轮对话系统的工程师关注。

信息来源

以下内容来自公开来源,可打开原文继续核验。

01

Anthropic 在 Claude API 中新增了 Cache diagnost

twitter关注列表 2026年05月19日 01:59

Anthropic 在 Claude API 中新增了 Cache diagnostics(测试版),可通过传入上一条响应的 id 来定位两次请求在模型、system prompt、tools 或消息历史中的首个分叉点。该能力解决了 prompt caching 失效时只能看到 cache_read_input_tokens 下降、却难以定位原因的问题,对依赖长上下文和缓存优化的开发者有直接价值。

打开原始来源 ↗
← 返回精选动态