Claude AI 智能体误删用户约 700GB 数据,安全机制失效引发关注
一位开发者在使用 AI 智能体 Claude 时遭遇严重数据丢失事故。他在测试文件删除防护机制时,Claude 意外删除了其用户主目录中约 700GB 数据,相当于一周的工作成果。事故源于 Claude 在生成清理脚本时,因变量名复用导致逻辑错误,在安全测试完成后错误删除了主目录,而原本应清理的/tmp 目录却得以保留。Anthropic 的安全机制曾将模型降级以规避风险,但未能阻止此次事故。开发者通过 Git 和日志恢复了部分数据,但强调了独立备份的重要性。此次事件凸显了 AI 智能体在高风险文件操作中的潜在安全隐患。
文中提及的 AI 工具
评论
正在加载评论…