一名27岁AI研究员辞职后，为什么成了安全派的新面孔

一周前，雅各布·考克森（Jacob Coxon）还是一名几乎没有公众知名度的人工智能研究员。现在，他成了美国人工智能安全争论中最醒目的面孔之一。

9 月 8 日，考克森从 Anthropic 辞职。他随后在 X 平台写道，自己过去三年在 OpenAI 和 Anthropic 从事大模型“预训练”研究，两家公司都在朝能够自我改进的超级智能竞赛，并在“拿我们的生命冒险”。

预训练，是让人工智能模型先从海量数据中学习语言、知识和规律的阶段。它通常决定一个基础模型能拥有多强的通用能力。考克森并非站在产品外围评论，而是参与过这一核心环节。

正因如此，他的辞职迅速传播。但“来自内部的人发出警告”，不等于他的每一个判断都已经被证实。

一个技术履历很强的陌生人

考克森 27 岁，来自英国，毕业于剑桥大学数学专业，学生时代曾在国际数学奥林匹克竞赛中获奖。他 2023 年通过研究项目进入 OpenAI，参与基础模型训练；2026 年 5 月转入 Anthropic，几个月后便离开。

与传统举报人不同，他没有公布公司文件，也没有指控某项具体违法行为。他本人也不接受“吹哨人”这一称呼。他公开表达的是一种职业判断：两家公司内部都有人真诚相信，快速发展的人工智能可能在未来十年造成灾难性后果，但商业和竞争压力仍推动它们继续加速。

这个区别决定了新闻应当怎样理解。考克森的工作经历让他的担忧值得认真对待，却不能单独证明人工智能将在某个日期失控。他提供的是一名核心研究人员对组织方向的证词，不是可以重复验证的实验结果。

他反对的不是某个模型，而是竞赛机制

考克森最强烈的批评，针对的是“谁先慢下来谁就输”的竞赛逻辑。

如果一家实验室担心落后于对手，它就更难主动推迟训练或发布；如果每家公司都用同样理由继续加速，整个行业可能在没有共同刹车规则的情况下前进。考克森因此主张建立全球协调机制，让领先实验室同时受到约束。

这也是他的辞职比一篇普通安全论文更具传播力的原因：他把抽象的“失控风险”，变成了一个具体选择——一名研究员认为继续留在实验室内部工作，反而可能帮助竞赛延续，于是决定退出。

但这种选择也存在争议。留在公司内部的安全研究人员会认为，最危险的模型恰恰需要懂技术的人参与评估和约束。退出能制造公共压力，却也可能减少组织内部反对冒进的声音。两种路径哪一种更有效，目前没有简单答案。

现实比“安全派对加速派”更复杂

《国际人工智能安全报告 2026》给出的结论比社交媒体上的口号克制得多。报告称，现有人工智能系统尚不具备造成“失去控制”所需的完整能力，但自主完成复杂任务、寻找漏洞和规避监督等相关能力正在提高。专家对未来风险的概率和时间仍有很大分歧。

这意味着，考克森的警告既不能被当成已经发生的事实，也不应因为不确定就被一笑置之。面对后果可能极大、概率却难以精确计算的风险，真正有用的下一步，是把担忧变成可以检查的制度：训练前进行危险能力测试，公布安全评估方法，明确何种结果必须暂停，并让外部机构能够核验。

一个年轻研究员突然走红，说明人工智能安全已经不再只是学术会议里的边缘话题。最领先实验室的员工正在把内部价值冲突带到公共空间，迫使公司、政府和社会回答一个更现实的问题：当技术竞赛没有天然终点时，谁有权踩刹车，又要看到什么证据才会踩下去？

考克森没有给出完整答案。他真正改变的，是让“是否应该继续加速”这道问题，很难再只留在公司会议室里。

参考资料

[1] RAMKUMAR A, WOO E, JIN B, et al. The Anonymous Math Geek Who Quit Anthropic—and Became the Face of AI Safety[N/OL]. The Wall Street Journal, 2026-09-16[2026-09-17].

[2] COXON J. I Resigned from Anthropic Today[EB/OL]. (2026-09-08)[2026-09-17].

[3] INTERNATIONAL AI SAFETY REPORT. International AI Safety Report 2026: Extended Summary for Policymakers[R/OL]. 2026[2026-09-17].

[4] ASSOCIATED PRESS. Anthropic Researcher Quits and Warns Against Self-Improving AI[N/OL]. 2026-09-09[2026-09-17].