AI助生生物武器风险加剧，科技巨头呼吁放缓前沿发展

驱动中国9月20日消息，近期，多家头部人工智能企业负责人公开警示其正在研发的技术存在严重安全隐患，呼吁行业放缓前沿模型的发展步伐。这一表态反映出科技界对AI可能被用于设计、制造及释放生物武器的深层担忧，标志着AI安全议题已从理论探讨转向紧迫的现实风险评估。

Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)在当地时间9月中旬指出，人工智能承载着重大风险，应当适当控制发展节奏。OpenAI首席执行官萨姆·奥特曼(Sam Altman)随即在社交平台X上回应称，赞同阿莫代伊关于需要把握前沿技术发展步调的观点。此前数日，曾在Anthropic和OpenAI任职的研究员雅各布·考克森(Jacob Coxon)宣布离职，并批评这两家公司未能采取负责任的行动。考克森在X上表示：“构建AI的人们真诚地相信，它可能在本十年末导致人类灭亡。”Anthropic另一位员工埃文·哈宾格(Evan Hubinger)公开附议，称团队确实认为AI可能导致全人类灭绝，并估计未来十年内发生此情况的概率超过10%。

AI可能引发灾难性后果的途径之一，是辅助设计、制造和释放某种生物武器。这类武器可能包括针对特定基因人群的高致命性病毒、导致农作物绝收并引发粮食危机的真菌，或是无色无味、可潜入区域供水系统而不被察觉的毒素。目前业界普遍担忧，AI工具可能被用于生成此类危险制剂。

据《麻省理工科技评论》报道，2022年，Collaborations Pharmaceuticals的研究人员发现，利用其开发的用于寻找人类疾病潜在药物的AI“分子生成器”，生成危险分子的过程异常简单。在不到六小时的时间内，该模型生成了4万个可能作为化学战剂的分子，其中部分分子的设计毒性甚至超过了已知的神经毒剂。研究人员当时写道：“在不危言耸听的前提下，这应被视为‘AI在药物发现’领域同行的一次警钟。”

这一发现对斯坦福大学医学与生物医学伦理学教授大卫·马格努斯(David Magnus)产生了巨大冲击。马格努斯自20世纪90年代末起便致力于评估医学科学和生物技术误用的风险，他坦言：“那对我来说非常可怕。当然，自那以后，情况就像爆炸一样迅速恶化。”

如今，AI聊天机器人能够回答涵盖所有科学领域的问题。德国汉堡大学生物安全研究员杜尼亚·萨布拉(Dunia Sabra)指出，任何人都可以使用基于“地球上几乎每一位科学家”的知识与经验训练而成的大语言模型。这些模型不仅能提供实验指导，还能生成视频培训教程。若将此与基因编辑及合成生物学工具日益普及的趋势相结合——“DIY生物学”运动已使许多人在家中建立实验室——将构成极具潜在危险的局面。萨布拉表示：“如果某人下定决心，最终成功的可能性很大。”

尽管目前已有防护措施，但并非无懈可击。要求构建新基因组的人员通常需从对可疑请求进行筛查的公司订购DNA片段。负责任的研究人员会对潜在风险研究进行“红队测试”（独立科学家寻找滥用途径）和“蓝队测试”（其他专家提出缓解措施）。AI公司也调整了其工具，试图防止提供可能被滥用的科学信息。然而，Anthropic上周发布的一份报告承认，有人曾试图利用其模型探索增强基孔肯雅病毒传播能力、制造对人类更具危险性的禽流感变种，以及构建“毒液肽图谱”等方法。

马格努斯总结道：“我们正处于不断的攻防博弈中。我们必须建立更好的监控和筛查工具，但AI的发展速度极快……”这一现状表明，随着AI能力的指数级增长，现有的生物安全防护体系正面临前所未有的挑战，行业亟需在技术创新与安全管控之间寻找新的平衡点。