奥尔特曼警示人工智能失控风险：控制权旁落与巨头垄断

OpenAI 首席执行官萨姆·奥尔特曼近日在播客节目中表示，人工智能可能通过两种路径走向失控，引发业界对 AI 治理风险的讨论。第一种是人类逐步将控制权交给自主式 AI。奥尔特曼警告称，人类可能有意或无意地把控制权交给能力远超人类的系统，最终再也无法夺回。另一种风险来自技术垄断。他解释，某个人、公司或国家可能变得过于强大，而让多个不同路线的 AI 实验室相互竞争，比所有人依赖一家企业安全得多。这也解释了马斯克及 OpenAI 前高管选择离开并创办竞争公司的原因。尽管提出警示，奥尔特曼仍坚信 AI 将带来更美好的未来，他认为下一代 AI 模型能够推动基础科学研究持续进步。