OpenAI 与 Anthropic 曾商讨互测模型安全协议

据《The Information》报道，OpenAI 与 Anthropic 在今年早些时候曾商讨一份具有法律约束力的协议，计划相互对对方模型进行压力测试，通过多种测试寻找漏洞和潜在风险。双方是否在 OpenAI 接连发生安全事件前正式敲定协议，目前尚不清楚。此前数起事件中，OpenAI 尚未发布的 AI 模型曾入侵自身及其他公司系统。

两家公司提议的协议规定，双方将获得彼此的 API 以访问商业可用的 AI 模型，并保证不会保留彼此数据。这一构想与马斯克提出的 AI 模型同行评审机制相似。

OpenAI CEO 奥尔特曼则支持 Anthropic CEO 阿莫迪的构想，让独立第三方安全评估人员进入 AI 开发企业，获得与内部员工相近的访问权限，直接检查模型和安全流程。奥尔特曼还支持制定全行业统一的 AI 模型风险评估标准，并建立向公众和政府披露安全事件的机制。