谷歌、OpenAI 与 Anthropic 拟自建 AI 安全标准机构 SAFA

谷歌、OpenAI 和 Anthropic 正自行推进成立 AI 安全标准机构，计划于今年年底或明年年初启动，暂定名为 Standards Authority for Frontier AI（SAFA）。该组织定位为面向前沿模型开发企业的行业自律机构，希望在没有政府监督的情况下运作。

SAFA 拟承担多项核心职能，包括支持第三方机构在模型投入使用前进行测试，制定 AI 开发商报告安全与安保事件的方式，并将各实验室此前自愿作出的承诺转化为具体实践标准。工作组还在讨论 SAFA 是否应直接负责模型的安全和能力测试。

目前此类测试由美国商务部人工智能标准与创新中心承担，部分成员担心该中心资源不足。有成员主张由 SAFA 在其测试基础上增加其他评估项目，但是否会出现职能重叠仍不明确。三家公司高管同时公开呼吁建立统一的安全标准并推动国际协调。