Meta CEO 扎克伯格在 X 平台发文,回应业界关于放缓 AI 开发的争论。他指出,用户不会使用与自身价值观不符、无法执行指令的智能体,因此各大 AI 实验室天然具备提升模型对齐水平的内在动力。
扎克伯格认为,信任与对齐正迅速成为拉开智能体和模型差距的核心竞争力,忽视对齐技术的实验室必将被淘汰。若模型造成危害,实验室将承担重大法律责任,这同样驱动其防患于未然。
他透露,Meta 此前将 Muse 的发布推迟数月,以确保功能安全与系统防护,并已引入独立外部评估机构。MSL 已在多个业务领域践行该做法。扎克伯格表示,将绝大部分算力用于服务大众,比盲目竞逐递归自我改进更能确保技术安全开发。
文中提及的 AI 工具
评论
正在加载评论…