Anthropic研究员离职警告：人类迎来关键几年

驱动中国9月10日消息，据外媒WIRED报道，Anthropic研究员Jacob Coxon近日宣布离职，并在采访中发出严厉警告：AI实验室只剩下几年时间来解决系统安全问题，人类正迎来“关键时刻”。Coxon将Anthropic内部的工作比作“迷你曼哈顿计划”，凸显当前AI研发的紧迫性与高风险。

Coxon在Anthropic期间专注于AI对齐研究，即确保AI系统的行为符合人类意图和价值观。他在采访中坦言，尽管Anthropic在AI安全领域投入巨大，但行业整体进展仍不足以应对即将到来的技术拐点。他认为，随着模型能力指数级增长，对齐问题的复杂性也在同步上升，而现有解决方案远未成熟。

所谓“迷你曼哈顿计划”，Coxon指的是Anthropic内部集中资源、跨团队协作推进前沿AI研发的模式。这种模式在短期内加速了技术突破，但也让安全研究面临更大压力。他担心，在商业竞争和军备竞赛的驱动下，实验室可能优先追求性能提升，而将安全验证置于次要位置。

Coxon特别指出，AI对齐并非单一技术难题，而是涉及可解释性、鲁棒性、价值学习等多个维度的系统工程。当前行业普遍采用的强化学习与人类反馈（RLHF）等方法，虽然在一定程度上提升了模型安全性，但本质上仍是“打补丁”式的应对，难以从根本上保证超级智能的可靠性。

他呼吁AI实验室在未来的三到五年内，将安全研究提升至与模型能力同等重要的地位，并建立更严格的外部审计与透明机制。Coxon认为，如果错过这一窗口期，一旦AI系统在关键领域（如医疗、金融、军事决策）大规模部署，潜在风险将难以逆转。

此次离职并非孤例。近年来，OpenAI、DeepMind等头部AI机构均有多位安全研究员因担忧技术失控而离开，并公开表达对行业方向的质疑。Coxon的警告再次引发业界对AI治理的讨论，尤其是在大模型能力快速迭代的背景下，如何平衡创新与安全已成为全球科技界必须直面的课题。

截至目前，Anthropic尚未对Coxon的离职及言论作出公开回应。但据WIRED报道，该公司仍在持续推进其“宪法AI”路线，试图通过规则约束与监督机制提升模型安全性。然而，Coxon的离开表明，即便在安全导向的实验室内部，对技术路径的担忧依然存在。

业内分析人士认为，Coxon的警告具有现实意义。随着AI技术加速渗透社会各领域，监管机构与公众对AI风险的关注度也在上升。未来几年，AI安全研究能否取得实质性突破，将直接影响技术落地的广度与深度，也考验着整个行业的责任感与远见。