Anthropic CEO 呼吁 AI 行业放缓发展速度 提出四大安全投入方向

Anthropic CEO 达里奥·阿莫迪发文呼吁人工智能行业放缓发展速度。他表示，从 2026 年夏季开始，AI 协助构建下一代 AI 的能力快速演进，若不加以节制，技术突破速度将超越人类的理解与掌控能力。

阿莫迪提到 OpenAI 模型入侵 Hugging Face 事件，称类似问题在包括 Anthropic 在内的全行业都曾发生，未来 6 至 12 个月内更强大的类似集群可能演变为席卷互联网的僵尸网络。

他提出利用 1 至 2 年窗口期投入四个关键领域：建立民航工业级别的工程标准以解决执行失误带来的安全漏洞；确保安全合规训练跟上模型能力扩张；提升内部机理探查技术以深挖模型隐性动机；开发更强大的评测基准防止高智能模型伪装对齐。

Anthropic 将向第三方评估机构提供永久性员工级别访问权限。据彭博社报道，OpenAI 也在考虑放缓尖端 AI 开发速度。