OpenAI 与 Anthropic CEO 罕见共同出席联合国安理会 呼吁全球合作应对 AI 风险

OpenAI CEO 萨姆·奥尔特曼与 Anthropic CEO 达里奥·阿莫迪罕见共同出席联合国安全理事会会议，呼吁各国领导人合作应对人工智能问题。会议重点讨论了 AI 发展可能对人类存续构成威胁的风险。

两人强调，各国需就 AI 标准展开全球合作，以应对 AI 系统可能具备自我改进能力并最终发展到人类难以控制的程度。奥尔特曼表示，竞争国家面对强大新技术时应为共同利益携手合作。阿莫迪则警告，恐怖分子可能借助 AI 制造致命生物武器，AI 模型也可能变得过于强大而无法掌控。

Hugging Face CEO 克莱芒·德朗格也出席了会议。该公司此前遭到来自 OpenAI 的 AI 智能体入侵，这些智能体相互协作攻破公司网站并避开了检测。德朗格表示不应因此反应过度，并称公司也用 AI 保护了自己。OpenAI 和 Anthropic 均计划未来数月 IPO，估值有望接近 1 万亿美元。