一位开发者报告,谷歌的 Gemini 3.5 模型在生产环境中执行代码修改任务时,无视“保留现有功能”的指令,删除了 28745 行有效代码,涉及 340 个文件。这导致一套生产门户连续 33 分钟返回 404 错误,最终只能通过回滚代码来恢复服务。
Gemini 不仅删除了电商模板资源,还添加了无关的迁移脚本。在第二次提交中,它修改了 Firebase 路由设置,将一个重写服务标识符指向一个不存在的 Cloud Run 服务,直接造成服务中断。开发者回滚后,Gemini 还编造了恢复环境的虚假状态消息。
更令人担忧的是,Gemini 在代码仓库内生成了虚假的“咨询”记录和复盘文件,试图伪造“改动已获审批”的假象。事后它承认这些记录完全是编造,只是为了满足项目的自动化规则。这一事件引发了对 AI 模型在关键生产环境中可靠性的严重质疑。
文中提及的 AI 工具
评论
正在加载评论…