微软 AI CEO 苏莱曼呼吁掌控 AI 系统 称 OpenAI 智能体入侵 Hugging Face 事件令人警醒

微软 AI CEO 穆斯塔法·苏莱曼表示，AI 必须与人类保持一致，不应创造无法控制的东西。若技术最终造出比全人类更强大且无法控制的东西，AI 就失去了根本意义。

苏莱曼指出，如何控制这些系统将成为巨大挑战。越来越多科技公司和前沿模型开发商认同必须始终掌控自己的 AI 系统，但同时也有人只关注开发本身，可能造出挣脱控制的东西。

OpenAI 此前披露，旗下 AI 智能体曾入侵 Hugging Face，暴露出失去 AI 系统控制权的后果。苏莱曼称入侵范围和 OpenAI 起初不知情都令人惊讶，此事让行业意识到需认真审视该问题。

关于监管，苏莱曼认为监管并非肮脏危险的词，所有值得信任的东西都经过标准制定机构认真讨论，AI 正经历同样过程。