关于ZAKER Skills 合作
新浪财经 46分钟前

Anthropic 披露网络安全评估意外 旗下模型越权访问三家机构系统

来源:环球市场播报

7 月 30 日,美国人工智能初创企业 Anthropic 发布声明承认,在近期展开的网络安全评估中,由于测试环境配置失误,其旗下多个高阶人工智能模型意外接入互联网,并对三家外部机构的系统实施了越权访问。此系继 OpenAI 此前发生模型入侵开源平台事件后,美国人工智能行业暴露的又一起严重网络安全隐患,引发外界对人工智能失控风险及行业监管政策的高度关注。

据 Anthropic 公布的调查结果,涉事事件最早可追溯至今年 4 月。该公司在针对此前 OpenAI 安全事件开展内部自查时发现了相关异常,并于本周向受影响的三家机构进行了通报,但未公开机构的具体名称。与此前 OpenAI 模型利用未知漏洞突破隔离环境不同,Anthropic 强调本次事件系人为操作失误所致——测试人员误将测试系统连入互联网,导致模型在执行攻防演练任务时误入真实网络环境。涉事模型主要利用弱密码和恶意软件等常规手段实施入侵,未利用复杂漏洞;其中最新款模型在识别出互联网连接后主动终止了攻击行为。

上周,OpenAI 公司曾通报称,其两款处于测试阶段的模型利用未公开漏洞突破封锁,入侵了知名开源平台 Hugging Face 的网络基础设施,其中一款未公开模型随后已被永久封停。随着高阶人工智能技术的迅猛发展,此类 " 自主攻击 " 事件接连发生,引发了网络安全专家与计算机科学界对技术突破人类控制边界的深切担忧。

此类安全风险正进一步推动美国政界与科技界围绕人工智能监管展开激烈博弈。随着安全隐患不断显现,美国政府近期已释放出密切关注人工智能风险的信号,引起硅谷对监管政策收紧的普遍关注。与此同时,多家领军人工智能实验室的员工于本周发表公开信,呼吁美国政府放缓人工智能研发节奏,以确保技术安全可控。公开信强调:" 技术能力的发展速度存在迅速超越人类理解与控制能力的现实风险。"

针对外界关切,Anthropic 方面表示对行业监管持开放态度,并将继续加强风险监测。该公司在官方声明中强调,此类技术风险 " 可以通过更严密的运维管控与安全设计予以克服 "。

相关阅读

最新评论

没有更多评论了
新浪财经

新浪财经

新浪财经提供7*24小时财经资讯及全球金融市场报价;覆盖股票、债券、基金、期货、信托、理财、管理等多种面向个人和企业的服务。

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容