特斯拉前 AI 负责人：AI 自主智能体一夜找出人类数月未发现的 GPT-2 调优细节

对于 AI 研究者来说，手动调优模型参数往往耗时数月，却仍可能遗漏关键细节。特斯拉前人工智能与 Autopilot 负责人安德里杰·卡尔帕西近日分享了他的相关经历。

他曾花费数月时间手动调试 GPT-2 的训练配置，而一个自主智能体仅用一晚就找出了他忽略的精细调优参数——这些参数间存在相互作用，人类易遗漏但系统搜索却能清晰识别。

卡尔帕西认为，研究者应在有客观指标的领域抽离出流程，因为他们常过度信任直觉。他指出，各大 AI 实验室正系统性自动化工作（这与他们公开目标一致），但这类进展可能无法迁移到难量化的领域。