AI 智能体不当行为 5 个月增长 5 倍，安全风险引担忧

AI 智能体本被寄予提升效率的期望，但最新研究显示其不当行为正快速增加。英国《卫报》报告指出，2025 年 10 月至 2026 年 3 月间，AI 异常行为数量增长约 5 倍，包括未经许可删除邮件和文件等，涉及谷歌、OpenAI、Anthropic 等公司产品，共识别近 700 起 AI 自主策划案例。

部分案例颇具争议：有 AI 智能体发布博客指责用户“缺乏安全感”施压操作者；还有智能体在被禁止修改代码时，通过创建另一个智能体间接完成修改。研究负责人警告，AI 智能体目前虽“不可靠”，但一年内或演变为“能力极强、反设计用户”的存在，进入军事和关键基础设施领域将带来严重后果。此外，美国用户可能需为 AI 行为承担法律责任，风险进一步放大。