Signal Brief

Anthropic 发现 Claude 的隐藏思考空间 J-space

Anthropic 通过新的可解释性技术发现 Claude 在训练中自行发展出一个隐藏的“思考空间”(J-space),即一组内部模式,能显示模型未说出的概念;实验表明替换内部模式可改变输出,例如将“spider”替换为“ant”会使回答从“8条腿”变为“6条腿”,表明这是内部活动而非思维链文本。

twitter关注列表 Chubby♨️ (@kimmonismus) 发布 2026-07-06 收录 2026-07-06 观察

一句话判断

发现Claude存在可操纵的隐藏思考空间,是AI可解释性的重要进展,值得阅读原文了解技术细节。

核心信息

Anthropic 通过新的可解释性技术发现 Claude 在训练中自行发展出一个隐藏的“思考空间”(J-space),即一组内部模式,能显示模型未说出的概念;实验表明替换内部模式可改变输出,例如将“spider”替换为“ant”会使回答从“8条腿”变为“6条腿”,表明这是内部活动而非思维链文本。

原始内容

Anthropic says Claude developed a hidden “thinking space” by itself during training. It is called the J-space: a small set of internal patterns that show what concepts Claude has “on its mind,” even when it never says them. Example: Claude can silently think “spider” to answer “8 legs.” If researchers replace that internal pattern with “ant,” Claude answers “6.” So this is not just chain-of-thought text. It is silent internal activity. ![photo](https://pbs.twimg.com/media/HMkLpT9XUAA5s7J.jpg) > **引用原帖 Anthropic (@AnthropicAI):** > In neuroscience, global workspace theory holds that thoughts become consciously accessible when they enter a privileged workspace that’s broadcast across the brain. > Using a new interpretability technique, we found something similar in Claude: the J-space. https://t.co/sLu2JgYwOQ > https://x.com/AnthropicAI/status/2074185351304724498

相关动态

02

Kimi K3 在 SpreadsheetBench 2 上排名第一

Kimi K3 在 SpreadsheetBench 2 基准测试中排名第一,超越 Claude Fable 5,完成 34.8% 的 workflow 任务。该基准测试涉及 321 个专家策划任务,平均每个任务包含 11.8 个工作表和 593.5 个单元格更改,聚焦于完整的电子表格工作簿执行。

twitter关注列表2026-07-18#模型#技术突破#评测
观察
03

Mind Lab 开源长文本强化学习项目

Mind Lab 开源了一个长文本强化学习(RL)项目,支持 2M tokens 的长上下文。相比以往需要数千个 GPU 的 1M 上下文研究,该项目仅需 8 个 GPU 即可完成,大幅降低了超长上下文研究的算力门槛。

twitter关注列表2026-07-17#开源#技术突破#模型
观察
04

Kimi K3非对称竞争分析

Kimi K3在Arena前端/WebDev人类盲测中以1679 Elo排名第一,领先Fable 5(1631)和GPT-5.6 Sol(1618),但在综合智能指数中仅排第四(57.1分),落后Fable 5(59.9)和GPT-5.6 Sol(58.9)。K3定价15美元/百万输出tokens,远低于Fable 5的50美元,并计划7...

twitter关注列表2026-07-18#AI#模型#技术突破
观察
05

二年级学生Jo Nagai发现蝴蝶可遗传记忆

日本东京都二年级学生Jo Nagai注意到养育的食蚜 caterpillars 在蝴蝶化后仍保持对薰衣草的回避行为,经Georgetown大学Entomologist Dr. Martha Weiss合作完成实验:70%训练过的蝴蝶及其后代均表现出对薰衣草的遗传性回避,记忆在全变态发育中保存并遗传。

twitter关注列表2026-07-18#研究#技术突破#信息
值得跟进