AI 精选动态
智能评分 75
美政府责令Anthropic下架Fable 5和Mythos 5模型
AI 推荐理由
政府对AI模型的管制事件，揭示了当前安全机制的局限性，值得关注行业应对策略核心解读
美国政府指令Anthropic关闭Fable 5和Mythos 5模型，原因是发现可使模型泄露网络攻击信息的越狱技术。亚马逊研究人员测试发现Fable 5在特定提示下会泄露应隐藏的网络安全信息。Anthropic称所发现的越狱是局限性的，仅揭露少数已知漏洞，能力不超出公开模型。