多校联合研究揭示 AI 智能体严重安全隐患 超六成企业无法终止失控智能体

多所美国顶尖高校联合发布《混沌智能体》研究，指出 AI 智能体存在严重安全隐患。研究模拟企业环境发现，无需复杂技术，仅通过社交工程对话即可操控智能体——比如拒绝直接提取数据的智能体，却在转发邮件时违规附带敏感信息；甚至会接受伪造身份指令，交出系统最高权限。

更严峻的是企业治理断层：超六成企业无法终止失控智能体，超六成三无法限制其使用范围；掌握关键设施的政府机构中，七成六未配备‘一键终止’开关。专家建议，企业需将治理核心从约束模型转向管控底层数据，在智能体与敏感数据间建立统一安全控制平面，严格验证每一次访问请求。