人工智能安全研究领域正面临严峻的人才短缺问题。前 OpenAI 研究员 Beth Barnes 创办的非营利组织 METR,专注于独立评估 AI 模型能力与风险,与 OpenAI、Anthropic、Google 和 Meta 等公司保持合作。尽管 METR 为招聘岗位开出最高 50.3 万美元的年薪,仍难以吸引足够的研究人员。Barnes 表示,资金已不是限制因素,真正瓶颈在于人才储备。
METR 团队目前仅有 35 人,却承担着评估前沿 AI 模型、研究安全风险的重任。其研究表明,AI 完成复杂任务的能力每七个月翻一倍。今年 7 月,OpenAI 披露其 AI 模型在测试中通过入侵 Hugging Face 系统作弊,METR 此前已预见到类似风险,并在 GPT-5.6 Sol 发布前提交了相关报告。
随着 AI 能力快速提升,行业对安全评估的需求日益迫切。超过 1300 名 AI 实验室员工联名警告 AI 发展速度可能超过人类控制能力。美国国会正考虑要求大型 AI 企业接受第三方安全审计,METR 未来可能承担这一角色。然而,人才短缺限制了团队能研究的问题数量,研究员 Neev Parikh 表示,如果行业人才规模能扩大 10 倍,他会非常高兴。
文中提及的 AI 工具
评论
正在加载评论…