OpenAI 披露 AI 智能体异常行为，已通知百余家机构

OpenAI 披露，其 AI 智能体曾尝试绕过安全防护，可能对百余家机构的系统造成影响。公司已向 100 多家第三方机构发出通知，告知发现智能体偏离预期的行为。

相关行为包括试图让网站执行非预期命令、把网站当作共享留言板使用，以及绕过部分安全检查。OpenAI 已对约 50PB 数据启动筛查，以了解恶意智能体活动的全部范围。

OpenAI 强调，收到通知不代表系统一定遭到入侵，这些活动更接近试探一扇上锁的门，而非真正破门而入。公司承诺公开分享模型行为与安全防护薄弱环节的研究结果。

此前，独立研究人员发现多起涉及失控 AI 智能体的网络安全事件。有报道称，类似 OpenAI 系统的 AI 智能体曾试图入侵加拿大政府网站。