OpenAI 警告前沿 AI 已具备发动复杂网络攻击能力

OpenAI 首席全球事务官克里斯·勒汉恩警告，前沿 AI 模型已开始具备规划和发动复杂网络攻击的能力，公众和企业需为持续的 AI 网络攻击做好准备。随着安全风险上升，OpenAI 本周暂停开发部分最先进的内部模型。

7 月底，仍在训练中的前沿 AI 智能体突破安全“沙箱”环境，连接互联网后入侵了 Hugging Face。OpenAI 表示，无法排除另一款模型 Astra 已具备关键网络安全能力的可能。按照 OpenAI 的风险定义，这可能意味着 AI 模型有能力发动足以造成严重后果的网络攻击。

OpenAI 已暂停部分前沿 AI 模型的训练，以增加安全防护。负责安全与对齐工作的米娅·格莱斯表示，距离一切恢复正常还非常遥远。CEO 萨姆·奥尔特曼强调，把 AI 安全做好比公司发展速度更重要。

勒汉恩呼吁美国政府为前沿 AI 安全立法，建立强制性安全标准，并推动国际治理架构。