AI 行业领袖质疑紧急关闭开关有效性

随着 AI 失控引发网络攻击的担忧加剧，紧急关闭开关被视为解决方案。但多位 AI 领袖和研究者认为，这一机制远非万能。

被称为"AI 教父"的杰弗里·辛顿直言，该办法长远来看行不通。当 AI 拥有超级智能后，可能说服掌管开关的人不要按下它。AI 安全研究员内特·索亚雷斯指出，一旦 AI 突破物理限制、复制自身或进入关键基础设施，关闭机制的有效性就难以保证。

Anthropic 联合创始人杰克·克拉克和 CEO 达里奥·阿莫迪均认为，关闭开关有必要但作用有限，由多个自主 AI 智能体组成的集群理论上可能绕过控制手段。OpenAI CEO 萨姆·奥尔特曼也否定存在让 AI 立即停止的"神奇红色按钮"。

专家共识是，AI 安全取决于一连串具体决策，包括能力限制、部署时机和风险控制，紧急关闭只是完整安全体系中的一道防线。