AI 教父辛顿:行业过度关注短期利润,超级智能或带来灭绝风险
多数科技行业领袖未真正思考 AI 的最终走向,AI 教父杰弗里·辛顿指出,行业核心驱动力是短期利润而非长期影响。企业所有者推动研究为短期回报,研究人员聚焦眼前问题(如图像识别、生成逼真视频),而非人类未来的目标。
辛顿长期警告 AI 风险:超级智能后人类灭绝概率达 10%-20%。他区分两类风险:坏人滥用 AI(如虚假视频、网络攻击),及 AI 本身成为不良行为者。应对上,可通过溯源认证标记内容遏制深度伪造,但需单独解决每类问题;对超级智能风险,建议设计 AI 具同情机制,参考母婴关系模型。
文中提及的 AI 工具
评论
正在加载评论…