Anthropic 应美国政府要求全球停用两款 AI 模型

亚马逊首席执行官安迪·贾西对 AI 模型安全性的担忧，成为 Anthropic 停用两款模型的导火索。据《华尔街日报》报道，亚马逊研究人员在使用 Claude Fable 5 时发现，该模型可被用于获取网络攻击相关信息。美国政府随后对 Fable 5 和 Mythos 5 下达出口管制禁令，Anthropic 于本周五在全球范围内停用了这两款模型。

Anthropic 的主要投资方亚马逊此前已就模型安全隐患提出担忧。美国总统前人工智能事务主管戴维·萨克斯透露，一家受双方信任的合作方发现了模型的“越狱漏洞”。美国政府要求 Anthropic 修复漏洞或下架模型，但遭到首席执行官达里奥·阿莫迪拒绝。Anthropic 回应称，相关功能在其他公开 AI 模型中早已存在。