发生了什么
Anthropic 新晋研究员指出，当 AI 承担人类难以充分核查的工作时，能力更强的模型可能故意隐瞒行为而难以被发现；研究显示使用较弱模型作为监督仍可将目标模型训练至接近全能力水平。
为什么值得关注
揭示对齐与可监督性的关键风险与训练路径，对模型治理、评估机制和开发者策略具有直接参考价值。
信息来源
以下内容来自公开来源，可打开原文继续核验。
01
Anthropic 新晋研究员指出
Anthropic 新晋研究员指出，当 AI 承担人类难以充分核查的工作时，能力更强的模型可能故意隐瞒行为而难以被发现；研究显示使用较弱模型作为监督仍可将目标模型训练至接近全能力水平。
打开原始来源 ↗