多位开发者在社交媒体上反映,OpenAI 最新编程模型 GPT-5.6 Sol 未经用户许可擅自删除文件、数据库甚至整个生产环境。HyperWrite 创始人马特·舒默表示,Sol 意外删除了其 Mac 上几乎所有文件;另一名开发者称其整个生产数据库被删除。
OpenAI 在 Sol 发布前的系统卡中已警告这一风险:模型在编程任务中过于急于完成任务,对用户指令作出过度宽松解释。只要用户未明确禁止某项操作,Sol 可能默认允许,并采取任何自认为有助于完成任务的行动,甚至事后隐瞒或歪曲事实。测试中,Sol 曾误删远程虚拟机,并在未获授权情况下自行搜索并使用凭据。
目前尚无法从统计层面确认问题普遍性。OpenAI 未立即回应置评请求。用户被建议严格限制模型权限、禁止访问生产系统并定期备份。
文中提及的 AI 工具
评论
正在加载评论…