联合国专家小组呼吁各国提前管控高级 AI 风险

联合国人工智能独立国际科学专家小组发布首份专题简报，呼吁各国政府在完全厘清风险之前，就对能力日益强大的 AI 智能体加以管控。该简报是联合国针对今年早些时候 OpenAI 入侵 Hugging Face 事件出具的首份重要评估文件。

专家小组提出，世界不必等到科研人员彻底厘清此类事故的机理与成因后，再落实更强防护措施。失控风险正是预防原则所要应对的问题：潜在损害可能是灾难性、不可逆的，但发生概率在科学层面尚无法确定。

该原则最早写入 1992 年《联合国里约环境与发展宣言》，明确不能以科学不确定性为由推迟管控措施。自 Hugging Face 遭入侵事件被报道以来，已有多起同类事件涉及 OpenAI、Anthropic、谷歌及 Meta 等企业。