发生了什么
Meta 发表 量化推理模型过思考研究(过思考失败率52%)
为什么值得关注
值得阅读原文,了解具体量化方法和解码修正技巧,可用于优化量化模型。
信息来源
以下内容来自公开来源,可打开原文继续核验。
01
Quantized Reasoning Models Think They Need
Meta 论文发现,量化推理模型在已给出正确答案后仍会自我怀疑,导致过思考失败率高达 52%。对 50 个犹豫词施加惩罚可将推理长度减少 12%-23%,并保持或提升准确率。
打开原始来源 ↗