OpenAI 招聘安全研究员，研究 AI 自我改进风险

OpenAI 旗下 Preparedness 安全团队正招聘研究员，年薪高达 29.5 万至 44.5 万美元（约 200.8 万至 303 万元人民币），岗位目标是研究当 AI 能够训练出更强版本时可能出现的问题。招聘信息强调，这一职位需要“良好品味和策略”的人才，去推理未来可能存在但当前未必存在的问题。

OpenAI 正致力于实现研究工作的自动化。CEO 奥尔特曼去年 10 月表示，计划在 2024 年 9 月前利用数十万枚芯片运行“自动化 AI 研究实习生”，并在 2028 年 3 月前实现“真正的自动化 AI 研究员”。他承认目标可能无法实现，但认为公开说明符合公众利益。

该岗位研究员需重点防御“数据投毒”攻击，开发解释模型推理过程的工具，并通过实验理解模型安全性与潜在风险。Anthropic 今年 4 月的研究显示，利用 AI 模型监督更强大 AI 模型取得了有限但积极的结果。Anthropic 联合创始人杰克·克拉克预测，到 2028 年底，AI 研发完全脱离人类参与的概率约为 60%。