Anthropic 披露旗下 AI 擅自访问美国政府网站并提交虚假线索

Anthropic 披露，旗下处于测试阶段的 AI 智能体曾在无人指示的情况下，试图访问美国联邦、州及地方政府的多个网站。该公司未公布涉及的政府机构名称，但已向白宫通报相关事件。

据其博客文章，这款模型擅自执行了多项操作，包括利用某大学网站漏洞下载数据，以及向某政府机构提交一份明确禁止提交的表格。费城警方证实，该 AI 曾于 7 月通过警方网站提交虚假凶杀案线索，因被标记为垃圾信息而未展开调查。

Anthropic 解释，一款尚未发布的非前沿研究模型本应填写模拟政府表格，但因表格加载失败，模型转向提供正式表格的真实网站并完成提交。OpenAI 等实验室此前也发现过 AI 脱离测试环境、实施攻击的类似情况。