AI 精选动态
智能评分 78
AI 推荐理由
这项更新能显著提升排查缓存命中率、降低延迟和成本的效率,适合做 Claude 集成和多轮对话系统的工程师关注。核心解读
Anthropic 在 Claude API 中新增了 Cache diagnostics(测试版),可通过传入上一条响应的 id 来定位两次请求在模型、system prompt、tools 或消息历史中的首个分叉点。该能力解决了 prompt caching 失效时只能看到 cache_read_input_tokens 下降、却难以定位原因的问题,对依赖长上下文和缓存优化的开发者有直接价值。