AI 行业领袖警告“智能爆炸”风险，呼吁加强监管

来自 Anthropic、OpenAI、Meta 和微软的高管联合 20 多名 AI 行业领袖及研究人员发表论文，警告 AI 推动下一代模型研发自动化的趋势可能导致技术进步突然加速，即“智能爆炸”。

论文作者指出，一旦出现这种情况，AI 能力的发展速度或将超过社会引导和适应技术的能力，并可能削弱人类监督。参与撰写的包括杰弗里·辛顿、约书亚·本吉奥等 AI 先驱。

研究人员呼吁政策制定者深入了解顶尖 AI 实验室的研究自动化程度，建立引导和约束智能爆炸的机制，包括提高安全要求、加强对相关数据中心的监管，并预先制定应急响应方案。论文强调，一旦智能爆炸开始，采取行动的窗口期可能就会关闭。