Hugging Face CEO评AI灭绝风险：如同空调工谈气候

驱动中国9月12日消息，Hugging Face首席执行官近日就人工智能风险议题发表了一则引发热议的评论。他将Anthropic研究员谈论AI灭绝风险的行为，比作空调维修工讨论气候变化——言下之意，虽然话题相关，但发言者未必具备足够的专业权威性。

这一比喻迅速在AI圈层传播，核心指向的是AI安全讨论中常见的“外行视角”问题。在Hugging Face CEO看来，Anthropic的研究人员虽然身处AI行业，但他们对“灭绝级风险”的判断可能超出了自身专业范畴，就像空调修理工并非气候科学家，却对全球变暖给出定论一样，容易造成认知错位。

Anthropic是当前AI安全领域最具知名度的公司之一，其创始团队多位成员来自OpenAI，长期致力于构建“可靠、可解释、可操控”的AI系统。该公司曾多次公开警告超级智能可能带来的失控风险，并提出“对齐”等概念，主张在大模型研发中优先考虑安全性。Hugging Face则走的是另一条路线，以开源平台为核心，强调AI技术的民主化与透明性，两者在公司使命和研究方向上存在明显差异。

此次言论并非孤立的意气之争，而是折射出AI行业内部分裂的认知光谱。一方认为，大规模语言模型逼近人类认知水平后，可能带来不可逆的生存威胁，必须提前设立护栏；另一方则更关注眼前的技术落地、开源共享与社会公平，认为过度渲染“灭绝论”会分散对现实危害的注意力，甚至阻碍创新。

事实上，围绕AI灭绝风险的争论已持续多年。从专家联名公开信到行业自律倡议，再到不同实验室之间的路线分歧，各方在“AI是否会毁灭人类”这一问题上始终难以达成共识。Hugging Face CEO的比喻，本质上是质疑风险叙事背后的方法论：谁有资格定义灾难性后果？判断标准又该如何建立？

这场争论不会因一句俏皮话而消解，但它提醒外界，AI安全不是单一学科能够覆盖的问题。人类学、伦理学、系统工程乃至气候科学等领域的知识都可能在其中扮演角色。空调维修工或许不懂气候模型，但他们同样能感知温度异常——关键在于，当“维修工”开始主导政策建议时，可能需要更多审慎与协作。

目前，Hugging Face与Anthropic均未就这一比喻发表进一步回应。可以预见，随着AI能力持续增强，关于“谁有权谈论风险”的讨论还会继续，而真正有意义的，或许不是站队，而是让更多专业视角进入这场关乎人类未来的重要对话。