OpenAI 呼吁美国牵头制定前沿 AI 国际标准

各界对先进 AI 潜在危害的担忧持续升温。OpenAI 通过官方博客发文，呼吁美国牵头联合其他国家，为前沿 AI 制定共同标准。

OpenAI 指出，确保 AI 安全发展需要建立国际技术标准，重点明确哪些 AI 模型事故必须上报、各国如何协同推进 AI 发展，以及如何改善开发此类技术所需算力的获取条件。各国应合作制定相互衔接的国内和国际标准，用于约束最先进 AI 模型的开发。

OpenAI 还呼吁针对 AI 日益增强的自主工作能力建立标准，在能够确保安全之前，不应推进完全自主的递归式自我改进。Anthropic CEO 达里奥·阿莫迪近期警告，一旦这种过程启动，就可能形成不断自我强化的反馈循环，最终让 AI 系统的改进速度超过人类的控制能力。