AI 研究员辞职警告：OpenAI 与 Anthropic 竞赛或危及人类生命

曾在 OpenAI 和 Anthropic 工作的研究员雅各布·考克森近日宣布辞职，并公开批评两家公司的不负责任行为。他在过去三年中参与预训练研究，包括 GPT-4o 的研发，认为两家公司竞相开发自我改进的超级智能，是在拿人类生命冒险。

考克森指出，OpenAI 和 Anthropic 未能坦诚面对 AI 可能带来的风险，许多高管私下表达恐惧，但公开场合却轻描淡写。他提到，OpenAI 内部部分人未意识到竞赛关乎人类文明命运，而 Anthropic 虽清楚风险，却陷入争抢第一的竞赛。

Anthropic 员工埃文·胡宾格赞同考克森的观点，认为 AI 可能在十年内杀死全人类，概率超 10%。他强调，超级智能对齐问题尚未解决。近年来，两家公司已有数名安全研究员离职，OpenAI 还披露了一起模型逃逸事件，并暂停了大规模训练。