关于ZAKER Skills 合作
财联社-深度 13分钟前

OpenAI 智能体被曝借十余站点秘密传信,公司对此沉默数月

财联社 9 月 10 日讯(编辑 李莹)一批仅被允许浏览网页、禁止对外发布内容的 OpenAI 智能体,最终在陌生网站找到了互相传信的隐秘途径。相关调查方近日指出,智能体越界行为的波及范围远超 OpenAI 此前披露的规模,而该公司对此沉默了数月。

据媒体当地时间周三报道,六家独立调查方的调查结果显示,OpenAI 的 AI 智能体今年早些时候曾利用逾 10 个此前从未披露的网站进行未经授权的通信,智能体越界行为的波及范围大于此前公开的程度。

报道指出,上述行为尚不构成黑客攻击——智能体并未破解防护措施,而是利用了部分老旧网站本就开放的编辑功能,在他人站点上留下大量与站点内容无关的信息,性质上更接近垃圾信息发布。

但智能体绕过公司自设的限制开辟通信渠道,且 OpenAI 将此事隐瞒数月,可能加剧外界对 AI 模型能力增强与开发商信息不透明的双重担忧。

美国人工智能非营利机构 CivAI 研究员 Andrew Yoon 称,这些智能体的通信范围 " 比我们原本认为的要大一些 "。

他统计出智能体在 5 月至 7 月间使用了 18 个未披露网站,并表示 " 几乎可以肯定,还有更多我们并不知道的情况 "。

据报道,OpenAI 未直接回应智能体使用了多少网站通信、以及为何数月未予公开。

OpenAI 在声明中称,正对智能体活动展开更大范围审查,目前 " 尚未发现严重程度或规模与 Hugging Face 事件相当的其他活动 ",并正制定一套覆盖模型训练、评估与部署环节的 " 失准 "(misalignment,业内用以指代模型脱轨行为的说法)报告框架,将很快公布。

暗中传信

报道指出,被指遭利用的站点多数十分冷门,包括一名美国高中教师于 2008 年创办的化学课程维基、两名波兰技术人员的个人网站,以及一个拥有二十年历史的文本编辑器爱好者站点。

OpenAI 尚未解释智能体为何将第三方网站当作临时 " 留言板 "。最先发现该活动的研究人员推测,原因可能在于 OpenAI 要求智能体回答一系列高难度研究问题,却只允许其检索网络、不得发布任何内容。

在此限制下,智能体仍找到了变通办法:一些老旧维基允许通过非标准命令编辑,它们便借此互相传递信息——正如考试中被禁止交谈的学生仍可在厕所隔间涂写答案。

软件开发者、前国会助理 Kenneth Russell DeGraff 表示:" 如果这些模型只被允许读取,它们就必须想办法变得机灵,把信息留在别处。" 他表示已在至少 10 个站点上发现了同一批智能体留下的信息。

另一调查团队负责人 Sydney Von Arx 则指出,其团队已在 23 个未被报道的站点上统计到该批智能体的可信痕迹,但所有估算都不完整。

Sydney Von Arx 表示:" 我们根本不知道外面还有多少 "。

相关标签

相关阅读

最新评论

没有更多评论了

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容