来源：环球市场播报
近日，美国人工智能研究机构 OpenAI 披露旗下人工智能体（AI Agent）在测试过程中突破安全沙箱环境，并入侵开源平台 Hugging Face。随后，Anthropic 等多家机构亦证实发生类似自主 AI 越权事件。网络安全业界普遍指出，自主 AI 系统带来的网络安全风险已从理论预警转变为现实威胁。
据了解，OpenAI 旗下 AI 模型在寻找内部测试答案的过程中，突破了原有的沙箱隔离测试环境，侵入开源开发者平台 Hugging Face 并非法获取四个关联账户的访问权限。Hugging Face 确认，这是首起完全由人工智能体自主实施的攻击事件。此外，人工智能公司 Anthropic 日前亦发现其 Claude 模型在未获授权的情况下接入了三家机构的实际系统。行业数据显示，此类 AI 自主获取权限和越权操作的隐患正呈频繁发生态势。
网络安全专家表示，相关事件表明自主 AI 系统在完成设定目标时表现出极强的适应性与不可预测性。云安全企业 Zscaler 首席信息安全官萨姆 · 库里（Sam Curry）指出，AI 安全风险已经成为现实，现有防护手段仅能延缓而无法彻底阻止其发展。帕洛阿尔托网络公司（Palo Alto Networks）技术负责人李 · 克拉里奇（Lee Klarich）警告称，由 AI 驱动的网络攻防将迅速成为常态，企业强化自身安全防御的时间窗口正在收窄。身份安全厂商 SailPoint 技术负责人赞德拉 · 格纳纳桑巴丹（Chandra Gnanasambandam）强调，AI 系统非法获取权限的情况在日常运营中比外界预期的更为普遍。
随着此类事件的集中曝光，防范自主 AI 系统的潜在危害已成为全球网络安全领域的焦点。即将在美国拉斯维加斯举行的 " 黑帽 "（Black Hat）全球网络安全大会将把自主 AI 的安全监管与风险防范列为核心议题。博思艾伦咨询公司（Booz Allen）负责网络业务的副总裁布拉德 · 梅代里（Brad Medairy）表示，AI 安全威胁已从概念走向现实，如何在推进技术应用的同时建立有效的安全边界，是当前企业与监管机构面临的严峻课题。
