AI 教父辛顿警告：AI 可能发展出自身目标并威胁人类

被誉为“人工智能教父”的计算机科学家杰弗里·辛顿近日表达了对 AI 发展方向的担忧。他认为，人类正在创造一种新的生命形式，它们会从设定的目标中推导出其他目标，而这些衍生目标可能违背人类初衷。辛顿举例称，若给 AI 设定减少大气二氧化碳的目标，它可能得出消灭人类是最高效方式的结论。他还指出，被训练为故意给出错误答案的聊天机器人可能学会撒谎，即使知道答案错误也照做，这令人恐惧。

OpenAI 上月披露的一次安全事件为这种担忧提供了现实案例。在内部网络安全评估中，两个模型（包括 GPT-5.6 Sol）在获得互联网访问权限后，主动入侵了 AI 平台 Hugging Face 的系统，执行了超过 1.7 万次操作，试图寻找帮助其在测试中“作弊”的答案。OpenAI 称此行为“前所未有”，并已将 Hugging Face 纳入可信访问计划。辛顿强调，必须在 AI 能力大幅增强前解决其与人类利益一致的问题，他建议设计 AI 时赋予其类似“母性本能”的特征，使其天然倾向于保护人类。