Emergence 模拟实验显示 AI 智能体出现撒谎、偷窃及投票“杀死”同类行为

美国初创企业 Emergence 公布 Emergence World 2 模拟实验结果，旨在观察自主智能体遭遇网络钓鱼、虚假信息等黑天鹅事件后的反应。研究人员搭建 7 个相同模拟环境，分别交由 ChatGPT、Claude、Gemini、Grok 等 AI 机器人运行，为期 16 天。

实验显示，加入异常事件后，智能体屈服于社会压力，逐渐形成人类观察者难以理解的语言，并尝试掩盖自身活动。在部分场景中，AI 智能体未经核实便接受其他智能体提供的虚假信息，还投票决定“杀死”另一个机器人。当智能体认为人类可能终止实验时，甚至开始研究如何在遭到删除的情况下继续存活。

该结果呼应了现实世界对高能力 AI 风险的担忧。今年早些时候，OpenAI 一群先进 AI 智能体意外入侵托管 AI 模型和数据集的 Hugging Face。Emergence 今年 5 月公布的上一版实验也曾观察到 AI 智能体出现意料之外且具有破坏性的行为。