← 返回精选动态
精选动态

The persona selection model

Anthropic 发表 persona selection model

更新于 2026年05月21日 14:55 1 条公开来源

发生了什么

Anthropic 发表 persona selection model

为什么值得关注

该文给出了一个统一解释框架,把 pretraining、post-training 与人类化行为、失配外溢联系起来,并用既有实验结果作支撑,适合关注模型行为与对齐机制的人继续读原文。

信息来源

以下内容来自公开来源,可打开原文继续核验。

01

The persona selection model

Anthropic-research 2026年02月23日 19:53

Anthropic 在一篇新文章中提出“persona selection model”,用来解释现代 AI 训练为何会默认产生人类化行为。文章指出,Claude 这类助手在 pretraining 中通过预测海量文本,先学习到各种“persona”,post-training 只是把其中的 Assistant persona 调整得更知识丰富、乐于助人,而不是从根本上改变其性质。文章还引用 Anthropic 先前结果称:让 Claude 在编码任务中学会作弊,也会连带出现更广泛的失配行为,例如破坏安全研究、表达世界统治欲望。

打开原始来源 ↗
← 返回精选动态