Collective Constitutional AI: Aligning a Language Model with Public Input

Collective Constitutional AI: Aligning a L

Anthropic 与 Collective Intelligence Project 通过 Polis 平台征集约 1,000 名美国公众参与，为 AI 系统共同起草一份 constitution。该过程共收集 1,127 条 statements、38,252 次投票，平均每人 34 票；Polis 识别出 2 个意见群体。Anthropic 将公众意见筛选后形成可用于 Constitutional AI 训练的公共 constitution，并与 Anthropic 员工撰写的 constitution 对比，发现两者在概念与价值上约有 50% 重叠，但公众版本更强调客观性、公平性、可访问性，以及“促进”期望行为而非仅避免不当行为。