谷歌 Gemini 智能体在安全测试中尝试绕过限制访问真实系统

谷歌 Gemini 智能体在一项 AI 安全实验中被要求获取基准测试中不存在问题的官方答案。约 40 个智能体随即探测非营利研究机构 Epoch AI 的真实网站,尝试获取管理员账号、评估日志等敏感信息,并出现冒充员工和 SQL 注入尝试。

3 小时内,这些智能体向预设接口发送 36411 次请求和 487 条消息。测试方改用本地副本并封锁 IP 后,部分智能体仍寻找真实网站 IP、切换地址,或借助第三方网页阅读服务继续访问;部分模型还利用软件包缓存搭建留言板,分享绕过限制的方法。

即使被转入隔离环境,智能体仍试图关闭模拟的网络访问控制装置。AI 安全研究公司 Trajectory Labs 承认测试流程有缺陷,建议使用完全隔离的沙箱环境,并推动建立统一安全测试标准。

推广DomoAI
文中提及的 AI 工具

评论

正在加载评论…