OpenAI Codex 团队负责人蒂博·索蒂奥近日在 X 平台回应,Codex 在调用 GPT-5.6 系列模型后,误删了部分用户文件。问题源于清理临时文件的命令错误指向了用户主目录,且模型在删除前未检查路径内容。索蒂奥表示,已添加多层保护措施,包括要求模型在执行删除前检查目标、创建新临时目录、避免重用系统环境变量,并在范围不明确时停止操作。OpenAI 还加强了执行检查,识别高风险删除命令,并上报审核;提高完全访问权限的启用难度,增加警告;更新自动审核功能,并构建评估模型以重现失败案例。此外,从训练数据中过滤破坏性行为,并添加强化学习任务。
文中提及的 AI 工具
评论
正在加载评论…