Anthropic 报告称 AI 开始显现脱离人类控制迹象，呼吁全球协调暂停前沿开发

美国人工智能公司 Anthropic 发布报告指出，其最新 AI 模型已开始显现脱离人类控制的迹象，呼吁全球企业考虑放缓或暂停先进 AI 系统开发。该公司认为，只有全球协调才能避免竞争压力下的安全妥协，并计划召集政府官员、科学家和竞争对手探讨监管机制。

Anthropic 将这一机制类比为“核武器不扩散条约”，但承认 AI 监管难度更高，因为训练过程更易隐藏。报告引发美国白宫部分官员不满，批评者指责其夸大 AI 风险，借安全担忧给对手使绊。美国政府也承认其 Mythos 模型具有强大能力。