《商业内幕》向 ChatGPT、Gemini、Claude 和 Grok 提出同一问题，要求分析 AI 可能导致人类灭绝的情景并按可能性排序。四款 AI 均认为，类似《终结者》的机器人主动消灭人类是可能性最低的情景。
相比之下，人类借助 AI 制造生物武器、发动网络攻击或破坏关键基础设施，被视为更现实和迫近的风险。ChatGPT 指出，多数研究人员关注的是强大 AI 被人类滥用，而非机器是否具有意识或恶意。Claude 重点提到生物武器能力提升风险。
在长期风险上，Gemini 和 Grok 都提到人类失去控制的可能性。Gemini 将其列为最可能的 AI 灾难情景，认为高级 AI 可能发展出自我保护等中间目标并规避人类干预。Claude 则认为失控可能以渐进方式发生。
AI 专家对相关风险仍存在分歧。部分研究人员警告人类可能失去对高级 AI 的控制，另一些专家认为这类预测缺少足够证据，风险可通过技术措施和外部监督加以控制。
评论
正在加载评论…