Measuring Progress on Scalable Oversight for Large Language Models

Measuring Progress on Scalable Oversight f

作者讨论了 large language models 的 scalable oversight 问题，即如何监督可能在多数任务能力上超过人类的系统，并提出一种可用于实证研究的实验设计：选择“人类专家能做、普通人和当前通用 AI 系统都做不好”的任务。论文用两个问答任务 MMLU 和 time-limited QuALITY 做了概念验证实验，结果显示：人类参与者通过聊天界面与一个不可靠的 large-language-model dialog assistant 交互时，表现显著超过模型单独作答，也超过自己不借助 AI 的表现。