美政府责令Anthropic下架Fable 5和Mythos 5模型

美政府责令Anthropic下架Fable 5和Mythos 5模型

美国政府指令Anthropic关闭Fable 5和Mythos 5模型，原因是发现可使模型泄露网络攻击信息的越狱技术。亚马逊研究人员测试发现Fable 5在特定提示下会泄露应隐藏的网络安全信息。Anthropic称所发现的越狱是局限性的，仅揭露少数已知漏洞，能力不超出公开模型。