发生了什么
Anthropic 公布 Claude J-space（思考空间）
为什么值得关注
发现Claude存在可操纵的隐藏思考空间，是AI可解释性的重要进展，值得阅读原文了解技术细节。
信息来源
以下内容来自公开来源，可打开原文继续核验。
01
Anthropic 发现 Claude 的隐藏思考空间 J-space
Anthropic 通过新的可解释性技术发现 Claude 在训练中自行发展出一个隐藏的“思考空间”（J-space），即一组内部模式，能显示模型未说出的概念；实验表明替换内部模式可改变输出，例如将“spider”替换为“ant”会使回答从“8条腿”变为“6条腿”，表明这是内部活动而非思维链文本。
打开原始来源 ↗