Autoresearch

Autoresearch

让 AI Agent 自动改写并重跑 LLM 训练脚本,只留下跑赢基线的实验。

访问官网

Autoresearch 是什么?

调一个小型语言模型,常见的场景是盯着训练脚本,猜该改哪一行,然后等结果看指标动不动。Autoresearch 把这个循环变成一件可以交出去的事:研究方向写在 program.md 里,AI Agent 自己去改训练脚本、跑实验,只留下分数更好的那一版。

这个项目从 Karpathy 的 nanochat 工作里长出来,单独打包成一个仓库。Agent 改的是 train.py,一份约 630 行的紧凑脚本,里面装着完整的 GPT 模型、Muon 加 AdamW 的优化器配置和训练循环。每次实验限定五分钟,只认一个指标 —— 验证集每字节比特数(val_bpb)。赢了基线,改动就留下;没跑赢,直接丢掉。

这种节奏适合手里有个猜想却抽不出时间试二十个变体的时候。每小时大约十二次实验,放一晚上能试上百次,早上回来看到的是熬过每道检验的版本,而不是你碰巧停下的那一版。想看看 Agent 在这种规模的研究循环里能走多远,这是个挺实在的起点;在 FindAIGo 上,也方便把它和其他开源模型工具放在一起比一比,再决定要不要搭进去一个周末和一块 GPU。

运行需要一块 NVIDIA GPU(项目在 H100 上测过),加上 PyTorch 和少量依赖。代码以 MIT 协议开源,社区已经出现了 macOS 和 MLX 的分支。Agent 做的事边界很清楚:它提出的是代码改动,不是关于模型的新想法,研究方向仍然由写 Markdown 的人给出。

加载中 / Loading

用户讨论

正在加载评论…