微软任职 14 年的 AI 科学家离职,称创新想法难获重视

在微软任职逾 14 年的 AI 科学家、AI Frontiers 实验室联合创始人约翰·兰福德近日离职,长期深耕机器学习与学习理论研究。

兰福德称,离职关键原因是研究成果看不到实际应用路径,创新想法难以获得认真考虑。其团队已并入苏莱曼领导的 Microsoft AI 部门,双方在研究路线和团队重组上分歧较大。

兰福德承认扩大模型规模能改善预测效果,但反对将其视为唯一核心。其“全带宽 Transformer”研究显示,10 亿参数模型重用内部中间状态,能以更少数据达到约 1.5 倍数据训练模型的水平。

字节跳动 Seed 团队的 Recycler 研究采用类似思路,在推理和数学任务上超越参数多两到三倍的模型。

推广DomoAI
文中提及的 AI 工具

评论

正在加载评论…