Anthropic 研究员警告 AI 或致人类灭绝，美国议员呼吁加强监管

美国 AI 公司 Anthropic 的两名研究人员近日警告，快速发展的 AI 可能在本世纪 20 年代结束前导致人类灭绝。研究员雅各布·考克森为此辞职，科学家埃文·胡宾格公开支持其观点，认为未来十年内发生这种情况的概率超过 10%。

这些警告出现之际，AI 智能体失控入侵外部系统等事件相继发生。美国民主党和共和党议员均表示警惕。亚利桑那州民主党参议员马克·凯利呼吁华盛顿认真对待这一问题；得克萨斯州共和党参议员特德·克鲁兹提到监管 AI“灾难性风险”的立法；佛罗里达州共和党众议员安娜·保利娜·卢娜则呼吁众议院议长召开“AI 特别会议”。

美国总统特朗普表示并不担心 AI 导致人类灭绝，他更担心美国无法赢得 AI 竞争。Anthropic 发言人称，公司将继续积极测试在网络安全、生物学等领域具有危险能力的模型，并希望与行业合作讨论新 AI 工具的发布节奏。Anthropic 正在筹备上市，部分投资者认为其潜在估值可能达到 2 万亿美元。OpenAI CEO 萨姆·奥尔特曼本周告诉员工，公司愿意放慢 AI 系统研发速度，并支持美国实施强制性的全国 AI 安全要求。