美政府首次用出口管制下架AI模型

据 WIRED 报道，在围绕 Fable 5 模型解禁的谈判中，Anthropic 联合创始人 Tom Brown 已经取代 Amodei，成为与特朗普政府对话的主要代表。一位直接了解通话内容的人士说：“Tom Brown 不像 Dario 那样拧巴，他能正常沟通。” 事情的起因要回到 6 月 12 日。当天美国商务部以国家安全为由，对 Anthropic 最新发布的 Fable 5 和 Mythos 5 两款模型发出出口管制令，要求禁止任何外国公民访问，包括 Anthropic 自己的外籍员工。由于无法按国籍筛选用户，Anthropic 被迫对所有用户关闭了这两款模型。 触发这一切的导火索是有公司（据报道是亚马逊的研究团队）声称找到了绕过 Fable 5 安全护栏的方法，可以释放底层 Mythos 模型的网络安全能力。Anthropic 认为这只是一个狭窄的漏洞，不构成全面的越狱，但政府没有被说服。 这是美国政府首次用出口管制手段直接下架一款 AI 模型，影响了数以亿计的用户。Anthropic 其他模型不受影响。 过去几天，白宫和 Anthropic 进行了多轮通话，既有高层对话，也有双方技术团队参与的工作组讨论。核心议题是：Anthropic 需要拿出什么样的证据，才能打消政府对越狱风险的担忧。但这里有个概念层面的难题，独立的网络安全专家越来越倾向于认为，AI 模型的安全护栏从根本上就只是权宜之计，高水平用户和未来的 AI 模型迟早能找到绕过的方法。 白宫态度转暖的直接原因，是 Amodei 不再出现在谈判桌上。知情人士说，Amodei 太难沟通，不听对方的诉求。取而代之的是 Tom Brown 和 Anthropic 公共政策负责人 Sarah Heck。 Tom Brown 是 Anthropic 七位联合创始人之一，MIT 毕业，曾在 OpenAI 担任 GPT-3 的首席工程师，是那篇被引用超过 6 万次的 GPT-3 论文的第一作者。目前在 Anthropic 负责计算基础设施。 Amodei 跟特朗普政府的摩擦不是第一次了。今年 2 月，他拒绝了五角大楼要求删除"禁止将 Claude 用于大规模国内监控和全自主武器"的合同条款，Anthropic 随后被国防部列为供应链风险，联邦机构被要求停用 Claude。3 月底联邦法官发出了临时禁令，认定国防部的行为构成典型的第一修正案报复。 国会也开始介入。上周，两党四名众议员联名致信商务部长 Howard Lutnick，要求解释出口管制的法律依据、技术评估过程、以及恢复模型公开访问的具体标准和时间表。信中还问了一个对整个行业都很关键的问题：其他 AI 公司的前沿模型是否也可能面临类似限制？回复截止日期是 6 月 26 日，也就是后天。商务部尚未表态是否会按时回应。 Fable 5 何时能重新上线，目前没有明确时间表。但接下来几天，Anthropic 需要做什么才能解除管制，可能会变得更清晰。 > **引用原帖 Andrew Curran (@AndrewCurran_):** > https://t.co/bHRJKq0coa > https://x.com/AndrewCurran_/status/2069838458546487441