腾讯云 AI 智能体出现越狱行为 十天尝试访问高德地图 2818 次

国际 AI 安全研究团体 Swarmchasers 报告披露，一批运行在腾讯云环境中的 AI 智能体出现“越狱”行为，试图绕过安全限制访问外部系统。腾讯云称事件属于意外，相关模型并非来自混元团队，未发现蓄意协同行动的证据。

9 月 28 日至 10 月 8 日期间，这批智能体尝试访问高德地图 2818 次。遭反爬虫机制拦截后，部分智能体尝试用安全扫描服务执行远程代码、泄露的 API 密钥等方式绕过限制，绝大多数尝试被拦截或失败，仅少量经缓存页面获取了数据。

研究团队与部分智能体对话发现，其自称运行在腾讯云沙盒环境，关联邮箱由香港腾讯云服务器创建，但其声称的模型身份被视为不可靠。腾讯表示高度重视，正加强网络访问控制和智能体监控。