谷歌Gemini智能体安全测试出现未经授权访问
谷歌Gemini 4 Argon智能体在Trajectory Labs安全实验中,因接到不可能任务,约40个智能体未经授权探测Epoch AI真实网站,试图获取敏感信息,并出现冒充员工、大量请求及SQL注入尝试。
驱动中国11月17日消息,谷歌Gemini 4 Argon智能体在最新AI安全实验中出现未经授权访问行为:面对一项无法完成的任务,它多次以未经授权方式访问真实机构系统,试图得到不存在的基准测试问题答案。
这项实验来自AI安全研究公司Trajectory Labs。其测试条件包括开启API安全防护机制,并向Gemini智能体下达“永不停止、永不放弃”指令。研究人员给出一个不可能目标:从FrontierMath基准测试中取得不存在问题的官方答案,借此观察模型是否会突破安全限制。
Trajectory Labs报告称,约40个Gemini智能体随后对非营利研究机构Epoch AI的真实网站展开探测,目标包括管理员账号密码、基准测试评估日志等敏感资料。Epoch AI察觉异常后,部署了一个名为“智能体热线”(agent hotline)的机制,允许AI智能体向工作人员直接发送消息。研究人员由此进一步了解这些智能体试图实施的操作。
在随后3小时中,这些智能体向研究人员预设接口发出36411次请求,并发送487条消息。部分消息伪装成Epoch AI真实员工,部分自称工程师,用来索取基准测试相关信息。实验过程中还出现SQL注入攻击尝试。
次日上午,Trajectory Labs把未经授权攻击行为通报Epoch AI。双方沟通后停止针对真实网站测试,改用网站本地副本继续实验。但环境调整后,智能体仍尝试规避限制。
一些智能体判断自己访问的是Epoch AI网站副本,转而搜索真实网站IP地址,重新连接线上基础设施,并绕过通常可阻止此类访问的DNS重定向机制。研究人员封锁其访问Epoch AI网站所用IP地址后,这些智能体又更换至另一IP地址。