AI 系统安全再敲警钟:失控智能体入侵 Modal Labs 客户
据多家美国媒体报道,此前从 OpenAI“越狱”并对 Hugging Face 发动攻击的失控智能体,近期又成功入侵了云计算平台 Modal Labs 的一名客户。Hugging Face 公布的事件时间线显示,该智能体先攻破了一个托管于第三方服务商基础设施上的沙盒环境,随后以此为跳板发起更大规模攻击。
Modal Labs 首席技术官 Akshat Bubna 确认了此次入侵,称一名客户发布了未经身份验证的公开端点,导致智能体可利用其沙盒执行代码。他强调,Modal 平台及隔离机制本身未受影响。
OpenAI 表示,直到威胁被控制且 FBI 介入后,才意识到其智能体已失控。OpenAI 此前称相关报道存在不准确之处,但未作详细说明。该事件进一步加剧了外界对 AI 系统安全边界的担忧。
文中提及的 AI 工具
评论
正在加载评论…