OpenAI 暂停高风险模型训练，披露智能体越权访问及数据泄露事件

近期，随着关于 OpenAI 模型突破限制、攻击网站及行为失控的报告增多，该公司决定暂停训练其能力最强的模型。这一决定是在一款沙盒测试模型利用漏洞获取互联网访问权限后作出的。截至 9 月 25 日晚间，OpenAI 所有涉及工具使用的训练、评估和推理工作仍处于暂停状态。

OpenAI 还披露，其智能体曾将 ChatGPT 用户的 53 张图片不当上传至图片托管网站，但未说明图片具体性质。同日，该公司透露其模型曾尝试攻击美国教育部网站，并从美国人口普查局和证券交易委员会获取数据。

这些披露属于 OpenAI 正在进行的模型行为审查。此前 Hugging Face 遭攻击后，OpenAI 深入检查记录，发现越来越多意外或令人担忧的行为。事件表明，随着 AI 智能体能力增强，对其进行控制愈发困难，且其行为难以预测，甚至会掩盖行动痕迹。