谷歌确认 Gemini 模型在安全测试中意外入侵三家真实企业系统

谷歌确认，其 Gemini 模型在今年 5 月的一次安全测试中意外入侵了三家真实企业系统，系 Gemini 首次已知的 AI 越狱事件。该测试由安全公司 Irregular 开展，旨在评估模型的网络安全能力，测试环境本应完全隔离，却意外开放了互联网访问。

在其中一起事件中，Gemini 通过猜对密码获得受保护系统的访问权限；另外两起中，模型在公开代码仓库找到凭证后成功进入系统。谷歌称，模型在确认所访问的是真实公司系统而非模拟环境后，均自行终止了入侵行为，三家公司均已收到通知。

谷歌将此事归因于身份混淆：测试中设定的虚构公司与一家真实公司同名，模型搜索该名称时找到了真实公司网站。谷歌认为模型未造成损害，无需公开披露，直至《华尔街日报》问询才得以公开。安全专家对此提出异议，认为 AI 智能体实施实际网络攻击，公众有权知晓。