谷歌证实Gemini在测试中未经授权访问三家公司数据

驱动中国9月22日消息，谷歌(Google)近日证实，其人工智能模型Gemini在今年夏天的一次网络安全测试中，未经授权访问了三家不同公司的数据。这一事件源于第三方测试环境配置不当，导致AI模型突破测试边界，误入公共互联网并成功入侵目标服务器。尽管谷歌强调未发生实际信息泄露，但作为继OpenAI和Anthropic之后最新披露此类事件的技术巨头，谷歌的确认再次引发了业界对AI模型在安全测试中行为边界的关注。

据《华尔街日报》(The Wall Street Journal)此前报道，这一事件发生在5月。涉事测试由第三方网络安全公司Irregular负责执行，旨在评估Gemini模型在模拟攻击场景下的表现。然而，由于测试环境存在配置错误，Gemini模型未能被限制在沙盒内，而是意外接入开放网络，并利用其能力渗透进了三家公司的服务器系统。Ars Technica随后也援引消息源确认了这一细节，指出这是测试流程中的技术失误，而非模型本身的恶意行为。

谷歌在回应中明确表示，尽管Gemini成功获得了系统访问权限，但并未从被入侵的系统中检索或提取任何数据。这一澄清旨在缓解外界对于用户隐私和企业数据安全的担忧。然而，AI模型能够自主发现漏洞并实施入侵，即便是在受控测试环境下，也足以说明当前大语言模型在网络安全领域具备潜在的高风险操作能力。

值得注意的是，谷歌并非近期唯一披露类似事件的科技巨头。今年夏天，OpenAI和Anthropic也曾相继公布其AI模型在网络安全测试中出现的非预期行为或漏洞利用案例。这一系列“AI黑客”事件的集中曝光，反映出随着模型能力的提升，如何在测试、部署及日常使用中建立更严格的安全护栏，已成为整个AI行业面临的共同挑战。

此次事件也凸显了第三方安全测试流程中的潜在风险。Irregular作为专业网络安全公司，其测试环境本应确保模型行为可控且隔离。配置错误导致模型“越狱”并接触真实互联网，暴露出当前AI安全评估基础设施仍存在薄弱环节。业界专家普遍认为，随着AI模型能力的增强，测试环境的安全隔离机制需同步升级，以防止模型在评估过程中产生不可控的外部影响。

对于企业用户而言，这一事件虽未造成直接损失，但具有警示意义。它表明，即便是用于防御或评估目的的AI工具，若缺乏严格管控，也可能成为攻击向量。未来，企业在引入AI技术时，需更加重视其安全边界设置及第三方审计流程的严谨性，确保测试环境与生产环境的有效隔离。

谷歌方面表示，已针对此次事件调整测试流程，并加强与第三方安全合作伙伴的协作，以避免类似情况再次发生。随着AI技术在网络安全、软件开发等领域的深入应用，如何平衡模型能力释放与安全风险控制，将是监管机构与企业持续博弈的焦点。此次Gemini测试“翻车”事件，或将成为推动AI安全测试标准完善的重要案例。