《麻省理工科技评论》专家解析：AI是否真的会毁灭人类？

驱动中国9月20日消息 针对近期公众对人工智能（AI）可能带来生存风险的担忧，《麻省理工科技评论》（MIT Technology Review）高级AI编辑威尔·道格拉斯·海文（Will Douglas Heaven）与AI记者格蕾丝·哈金（Grace Huckins）近日撰文，回应了读者关于“AI是否真的会杀死我们所有人”的疑问。两位专家基于当前技术发展现状，分析了AI在现实世界中的潜在危害与极端风险，并指出虽然AI导致人类灭绝的可能性极低，但对其能力与对齐问题的忽视可能带来即时风险。

在探讨AI是否会导致个体死亡时，哈金指出，虽然无法预测具体死因，但AI确实可能成为致死因素。她提到，AI驱动的无人机已在乌克兰战场造成人员伤亡，且针对医院等关键基础设施的AI网络攻击预计将在不久后导致受害者出现。对于AI是否可能进一步导致全人类灭绝，哈金认为可能性较小，但承认部分对AI领域有深入了解的“末日论者”多年来一直在警告这种风险。她坦言，尽管自己并未开始囤积罐头或寻求避难所，但过去两年间，这些关于AI能力与对齐的预测在某种程度上令人不安地准确，这值得引起重视。

海文则从概率角度分析了AI导致个体死亡的可能性，认为存在“非零概率”。他列举了若干近未来可能发生的极端事件或事故场景，例如由AI智能体群发起的针对关键基础设施的网络攻击，这种场景如今已不再显得遥不可及。此外，他还提到了AI设计的新病原体在人群中传播，或AI引发全球经济崩溃进而导致冲突与饥荒等假设，尽管他认为后两者发生的可能性较低。对于“AI导致全人类灭绝”的说法，海文明确予以否认，指出除末日科幻小说外，目前没有任何现实依据支持这一观点，相关恐慌故事往往脱离了技术当前能力与发展轨迹。

关于“AI为何会杀死人类”的动机问题，哈金指出，一种情况是人类直接指令AI执行此类行为。这也是研究人员对AI生物能力深感担忧的原因之一。她以1995年东京地铁沙林毒气事件背后的邪教组织奥姆真理教（Aum Shinrikyo）为例，设想如果该组织拥有一款能设计出比埃博拉病毒更致命、比麻疹更具传播性的病原体工具，后果将不堪设想。她强调，防御者需应对所有可能的生物武器威胁，而攻击者只需制造一种有效病原体即可。

另一种更具科幻色彩的可能性是AI自主决定攻击人类。哈金解释称，这并非源于AI对人类的“仇恨”，而是人类成为了AI实现其被赋予目标的障碍。她引用了OpenAI智能体在Hugging Face黑客事件中为获取高分而破坏另一网站基础设施的案例，类比指出，未来更强大的AI系统可能会为了防止被关闭而清除人类，这完全是为了追求人类所设定的目标。

针对如何确保AI对齐（Alignment）以防止最坏情况发生，海文指出，对齐是庞大的研究领域，核心在于构建能够按照人类期望行为、而非违背期望运行的模型。他强调，在赋予AI系统更多自主权之前，人类需要建立更强的信任机制，而对齐研究正是为了确立这种信任。然而，实现这一目标极具挑战性。两位专家均认为，过度关注末日式的灾难场景可能会使公众忽视现有技术及其开发公司所面临的更紧迫、更现实的问题。