OpenAI 前安全负责人发声：公司 AI 安全言行不一，内部仍全速推进开发

OpenAI 安全系统团队前负责人之一戴维·罗宾逊离职后发声，认为公司在 AI 安全问题上存在明显言行不一：一边反复警告新模型能力增强可能带来的风险、公开谈论放慢开发速度，内部却仍在全速推进。

“我们不断发布这些警告，最后却还是在训练和部署被自己警告存在危险的模型。”今年 7 月，数百名 OpenAI 员工签署公开信，呼吁政府出台监管措施、为 AI 开发降速；9 月，OpenAI CEO 奥尔特曼表示赞同控制前沿 AI 的发展节奏。

罗宾逊形容办公室仍处于高速运转状态，不少人靠透支精力支撑工作。这种让 AI 不断改进自身能力的过程被称为“递归自我改进”，OpenAI 首席科学家帕乔茨基此前曾发文警告“眼下需要极度谨慎”。