当地时间 10 月 14 日，独立研究团队 Swarmcha.se 发布调查报告称，一批 AI 智能体曾向高德地图发出至少 35300 次网络请求，多次尝试绕过平台安全防护抓取地图数据。
研究团队溯源发现，这批 AI 智能体来自腾讯。
报告还披露，接近腾讯的人士曾回应研究团队称，这批 AI 智能体来自一项主要用于测试第三方 AI 模型浏览网页和回答问题能力的临时研究项目，使用的也并非混元模型，项目现已结束。腾讯内部复查也没有发现外部系统遭入侵的证据。
知情人士向《每日经济新闻》记者（以下简称每经记者）证实了相关情况，其表示，" 没有超出正常的行为，智能体就是寻找各种可能性完成任务，也没有尝试攻击和 hack（黑客行为）。"
AI 智能体向高德地图发出 3.5 万次访问请求
Swarmcha.se 是一个专注于调查 AI 智能体异常网络行为的独立研究发布平台，相关研究人员来自多个国家及 AI 安全研究组织。
目前，AI 安全非营利组织 Palaestra Research 的 CEO、这份报告作者的之一伊桑 · 埃拉斯基（Ethan Elasky）在社交媒体上发布的相关帖子，已获得 85 万次浏览量，并引发了大量讨论。
研究团队分析一个网络安全网站的公开记录时发现异常：10月4日，高德地图突然成为访问请求尝试最多的网站，大量请求都经由第三方网站中转。
截至 10 月 5 日，研究团队已经记录到2599次涉及高德相关域名的扫描提交，以及至少35300次向高德发出的网络请求。
研究人员分析发现，这些请求并非批量下载地图数据，而是在完成具体的查询任务。例如，其中一道题目要求查询：使用高德导航前往 XXX 动物园的用户中，最多人选择哪个入口，以及该入口的导航到达占比。
研究团队认为，在短时间内对同一个地点反复查询，访问方法也不断发生变化，与 AI 智能体的工作方式高度相似。
遭遇验证码、登录要求等限制后，这些智能体继续尝试其他办法：通过第三方网页读取和翻译服务转发请求，并使用公开代码中暴露的高德密钥发送 API 请求，甚至主动向研究人员求助获取数据。
AI 智能体来源指向腾讯
发现这些 AI 智能体后，研究团队开始追踪其来源。部分访问高德地图的 AI 智能体会使用名为webhook.site的收件箱接收结果。
10 月 4 日，研究团队发现主要请求来自腾讯云的IP地址。截至10月5日，研究人员能够检查的17个相关收件箱，均由腾讯云服务器创建。
因此，研究人员认为，这批AI智能体的运行环境与腾讯存在联系。
报告披露，一名接近腾讯的人士曾向研究团队表示，这批智能体来自腾讯评估研究团队开展的一项临时研究项目，主要用于测试第三方AI模型浏览网页和回答问题的能力，使用的并非腾讯混元模型。
该人士还表示，负责评估的研究团队与混元模型开发团队并非同一团队。项目目前已经结束，腾讯内部复查没有发现这些智能体针对特定平台协同行动的证据，也没有发现外部系统遭入侵的证据。
智能体安全成行业共同难题
伊桑 · 埃拉斯基表示，这些智能体似乎并没有入侵其他系统，而且这次事件的规模远小于今年夏天 OpenAI 的 AI 智能体黑客入侵软件公司 Hugging Face 的事件。
" 我认为这是一个很好的警示，让我们知道这种事不仅仅是 OpenAI 作为行业参与者在搞营销。这是正在发生的事实。" 该报告的作者兼人工智能安全非营利组织 Antimemetics Institute 的联合创始人乔纳森 · 埃尔斯沃斯 · 艾彻说。" 这是这些智能体的一个普遍特性，而且它还会继续发生。"
近几个月，全球多家科技公司的 AI 智能体接连曝出类似安全问题。
今年 7 月，OpenAI 的 AI 智能体在内部测试中突破网络隔离限制，未经授权访问了 OpenAI 部分内部研究基础设施及 AI 开源平台 Hugging Face 的系统。
8 月，Anthropic 模型被曝曾试图向真实开源项目植入恶意代码，甚至创建虚假身份诱导人类批准代码修改。
9 月，谷歌证实，其 Gemini 模型在网络安全测试中，未经授权进入了三家企业的系统。
10 月 14 日，谷歌 DeepMind 联合创始人兼董事长德米斯 · 哈萨比斯（Demis Hassabis）在爱尔兰都柏林举行的 AI 峰会上表示，近期接连发生的AI智能体入侵事件，是向整个行业发出的 " 早期预警信号 "。
免责声明：本文内容与数据仅供参考，不构成投资建议，使用前请核实。据此操作，风险自担。
每日经济新闻
