发生了什么
Anthropic 发表 Claude Opus 4.5 浏览器注入防护
为什么值得关注
可重点看其浏览器 agent 的安全训练、分类器与 red teaming 组合方案,以及内部 ASR 评估方式,适合参考到类似网页代理产品的防护设计中。
信息来源
以下内容来自公开来源,可打开原文继续核验。
Mitigating the risk of prompt injections i
Anthropic 介绍了 Claude Opus 4.5 在浏览器使用场景下对 prompt injections 的鲁棒性改进,并表示其浏览器扩展 Claude for Chrome 已从 research preview 扩展为 beta,现面向所有 Max 计划用户开放。文章称,基于内部 adaptive “Best-of-N” 攻击者评估,当前版本的攻击成功率降至 1%,且相较最初发布配置有显著改善;同时 Anthropic 还通过强化学习、分类器和人工 red teaming 提升了所有 Claude 模型的安全性。Anthropic 也强调,prompt injection 仍未被解决,1% 的攻击成功率仍意味着真实风险。
打开原始来源 ↗