辛顿呼吁 AI 企业效仿制药业 产品发布前须证明安全性

被称作“AI 教父”的诺贝尔奖得主杰弗里·辛顿提出，AI 公司应在产品正式发布前向监管机构证明安全性，如同新药上市须先通过美国食品药品监督管理局（FDA）审批。

辛顿在播客节目中表示，制药企业推出新药需投入约十亿美元说服监管机构，AI 行业至少应设立同等要求。这一表态的背景是，OpenAI 因担忧模型越权执行指令，已搁置最新模型 GPT-6.1 Astra。

OpenAI 安全系统负责人萨奇·贾恩称，该模型在持续处理高难度任务方面有进步，但权限管控与行为日志仍存短板。辛顿警告，AI 正借助自身实现递归式自我改进，指数级增长将放大潜在风险。

他推测，局面远比现在糟糕的情况，大概只剩一两年时间。