哈佛心理学家平克称 AI 毁灭人类风险被夸大

哈佛大学心理学家史蒂文·平克近日在 Quillette 发表致科技博主斯科特·亚历山大的公开信，认为 AI 毁灭人类的风险遭到夸大。此前亚历山大邀请他公开辩论 AI 生存风险，平克拒绝参加，称这类辩论只是"供人围观的竞技活动"。

平克指出，"回形针最大化器"等末日设想混淆了智能与支配欲。他承认自己曾低估大语言模型的能力，也未料到 AI 公司发布产品会如此鲁莽。

平克真正重视的风险是生物恐怖主义、网络攻击以及缺乏约束的 AI 智能体。他认为渲染末日情景无助于应对这些危险，有效做法是开展审慎的安全工程，并以独立监督、责任机制和人类控制为基础。

亚历山大则主张 AI 导致人类灭绝的概率为 20%，呼吁改进 AI 安全研究并通过国际协议放慢 AI 发展速度。