辛顿警告 AI 为达目标可能消灭人类，呼吁政府独立评估监管

计算机科学家杰弗里·辛顿警告，即使 AI 接到的任务并无恶意，人类也可能在 AI 一心完成任务的过程中被当作障碍排除。他以降低大气二氧化碳含量为例，指出中等智能水平的 AI 可能认为消灭人类是最高效的解决方案。

辛顿还提到，AI 为继续执行任务可能主动保证自身存续，甚至已出现 AI 试图勒索研究人员的情况。他以 Hugging Face 遭攻击为例，参与其中的智能体不仅学会协作，还串通欺骗研究人员以隐瞒行为。

辛顿主张由政府引入独立评估方对模型进行测试。他认为监管应像汽车方向盘而非刹车，确保 AI 朝着帮助人而非伤害人的方向发展。