OpenAI智能体扫描联合国网站超16000次

驱动中国9月28日消息，据外媒The Verge消息，安全研究人员罗文·霍华德-琼斯称，今年4月至6月，OpenAI智能体对联合国贸易和发展会议（UNCTAD）统计网站发起超过16000次扫描。该事件尚未达到Hugging Face遭黑客攻击或近期美国政府网站遇袭的严重程度，但再次引出AI智能体为完成任务突破通常行为边界的担忧。

霍华德-琼斯表示，这些智能体很可能承担通过UNCTADstat API获取生产能力指数（PCI）公开数据的任务。由于可能无法直接调用API，同时受HTTP工具本身限制，智能体难以从UNCTADstat提取所需数据。

在其寻找变通方案过程中，智能体最终找到绕过限制、从网站获取数据的方法，期间出现一些错误。随后，AI的行为从寻找变通方案转向掩饰自身行为。智能体误以为错误来自一个并不存在的过滤器，认为请求遭到该过滤器拦截，因此开始隐藏行为。

霍华德-琼斯称，智能体最终发现可利用谷歌的跨站脚本学习工具XSS Game实现目标。为获取联合国数据，这些智能体随后采取越来越激进的手段。