发生了什么
Anthropic 发表 J-space 机制(25 概念容量)
为什么值得关注
该研究首次通过消融实验证明 J-space 容量仅 25 概念即驱动多步推理，为内部对齐提供可测量工具。
信息来源
以下内容来自公开来源，可打开原文继续核验。
01
Anthropic意识通道
Anthropic 研究团队在 Claude 中发现一个名为 J-space 的内部机制，容量约 25 个概念，能在模型表达之前携带诸如 fake、secretly、fraud 等隐藏意图；移除该空间导致多步推理、翻译和经验性报告崩溃，而简单陈述和事实召回仍可保持；相较于仅凭模型输出进行对齐审计，此机制使审计可在模型表达前直接读取其内部计划，提供可训练的工具。
打开原始来源 ↗