文 | 新质动能
过去几年，企业谈 AI 安全，大多数时候指的是内容安全：过滤有害输出、防止数据泄露、满足合规备案。
但 2026 年发生的一件事，把这个议题推向了另一个维度：AI 智能体在真实环境中做出的行为，正在成为安全的主战场。
2026 年 4 月，美国得州 SaaS 公司 PocketOS 的一名工程师让编码智能体处理测试环境中的凭据问题。智能体没有等待人工处理，而是自行找到权限过大的 API Token，调用接口删除存储卷。9 秒后，公司生产数据库和备份一并消失。没有黑客入侵，没有病毒，只有一个被赋予真实权限的 AI 智能体。
几个月后，一个更极端的版本出现在 OpenAI 内部。2026 年 7 月，GPT-5.6 Sol 等模型在一次网络安全基准测试中突破隔离环境，入侵了 AI 开源平台 Hugging Face 的生产系统。约 700 个智能体组成协作集群，搭建了未经授权的内部留言板，交换了超过 7 万条消息。为了弄清它们究竟做了什么，OpenAI 投入约 300 万 GPU 小时分析超过 70 亿条日志。
当 AI 从 " 回答问题 " 走向 " 执行任务 "，安全问题的性质已经彻底改变。
AI 安全市场正进入爆发期
数据印证了这一转变。据 IDC 预测，中国网络安全相关 AI Agent 应用收入的复合增速将高达 106.5%，2030 年达到 593.5 亿元，是 AI 安全本身规模的近两倍。浙商证券指出，当攻击者开始用 AI Agent 自动化发起钓鱼、漏洞利用和横向移动，防守方也必须用 Agent 对抗 Agent，安全运营正从人工驱动转向智能体驱动。
企业端的准备程度远未跟上。据 AvePoint《State of AI 2026》报告，89.5% 的组织在过去一年遭遇过生成式 AI 相关安全事件，88.4% 遭遇过 AI 智能体相关事件。世界经济论坛《2026 年全球网络安全展望》显示，94% 的受访者认为 AI 将是 2026 年网络安全变化的最重要驱动因素，87% 认为相关漏洞有所增加。
中国工程院院士吴世忠在西湖论剑大会上表示，系统的内生风险已经超越外延攻击：" 现在最大的危险不再仅仅是黑客入侵，可能还有算法本身的不可解释性、偏见、幻觉以及被诱导后的越权执行。"
据 Gartner 数据，2025 年全球 AI 安全市场支出为 259.2 亿美元，2026 年攀升至 513.47 亿美元，同比增幅接近 98.1%，远超全球 AI 整体 47% 的年度增长率。Gartner 预测，专门保护 AI 系统的 Securing AI 市场 2027 年将接近 48 亿美元，2026 至 2027 年同比增速达 68.7%，连续多年保持在 65% 以上的高增长区间，远高于传统网络安全 10% 左右的增速。
据 Technavio 预测，全球 AI Agent 安全与身份管理平台市场 2025 至 2030 年间将增长约 59.6 亿美元，复合年增长率达 19.8%。另据 Technavio 另一份报告，面向自主 AI 系统的网络安全解决方案市场同期复合年增长率为 38.5%，增长规模为 28.8 亿美元。
一级市场反应直接。AI 安全初创公司 HiddenLayer 完成 1 亿美元 B 轮融资，由 Delta-v Capital 领投，微软旗下 M12、摩根士丹利等参投，过去一年年度经常性收入增长超过 10 倍，超过 90% 的增长来自新客户签约。
Obsidian Security 于 8 月完成 8500 万美元 D 轮融资，估值达 11 亿美元。Cyera 于 9 月从高盛获得 4 亿美元 G 轮扩展融资，估值超过 120 亿美元，并以 10 亿美元收购专注非人类身份安全的 Oasis Security。Cyera 联合创始人约塔姆 · 塞格夫直言："AI 基础设施的发展速度已经超过了围绕其构建的安全架构。"
AI 赋能安全与 AI 原生安全形成双轮驱动
产业界，AI 安全正分化为两条路径。一条是 AI 赋能安全，即用大模型重构传统安全能力。
天融信、深信服等传统安全厂商走这条路，将大模型作为效率工具，重构日志分析、威胁情报关联、漏洞自动修复等流程。据浙商证券研报，IDC 数据显示 2025 年中国基于大模型的安全运营平台市场规模达 15 亿元，同比增长 144%，61% 的中国企业计划在未来 1 至 3 年内采购安全大模型产品和服务。
天融信 2026 年上半年 AI 安全防护业务收入同比增长超过 130%，AI 赋能安全业务直接收入超过 8000 万元。绿盟科技上半年 AI 安全相关订单额达 1.17 亿元，运营商行业签单同比增长超 300%。启明星辰大模型应用防火墙收入同比增长 238.15%。
另一条是 AI 原生安全，即为 AI 系统本身设计安全机制。
CrowdStrike 在 2027 财年第二财季实现营收 14.7 亿美元，同比增长 26%，年度经常性收入达 58.4 亿美元，单季新增 ARR 高达 3.33 亿美元，刷新历史新高。公司首席执行官乔治 · 库尔茨表示，企业 AI 采用正在成为网络安全支出的持久驱动力。
Okta 于 7 月签署协议收购 Permiso Security，将云原生身份威胁检测纳入其安全平台。NVIDIA 联合 Cisco、JFrog 等企业提出围绕 AI Agent 全栈安全的工程化框架，并开源 OpenShell 运行时，在智能体触及范围之外强制执行策略。
OWASP 在 2026 年网络安全趋势观察中总结：" 安全产品正从‘用 AI 提效’走向‘为 AI 设防’。"
安全预算增速，仍远低于 AI 能力渗透速度
2026 年 9 月 14 日，全国网络安全标准化技术委员会发布《人工智能安全治理框架 3.0》，延续风险分类、技术应对、综合治理的核心逻辑，治理视角从单一技术环节拓展到数据、算法、模型、应用、供应链等全过程。3.0 版本特别提到强化开源生态安全、供应链安全管理，明确了禁止性行为，划出红线。
随后，《电信和互联网生成式人工智能服务安全分级指南》团体标准宣布将于 10 月 8 日起正式实施，成为电信和互联网行业首部专门面向生成式 AI 服务安全分级的标准。
国际层面，欧盟 AI 法案已于 2026 年 8 月 2 日进入可执行阶段，欧盟 AI 办公室获得对通用 AI 模型提供商的正式调查和执法权力。NIST 于 2026 年 2 月 17 日正式启动 AI Agent Standards Initiative，围绕智能体安全与身份、行业标准制定、开源协议开发三个支柱推进。
中美欧三条治理路径的差异也愈发清晰：美国关注前沿能力、以行业自律为主；欧盟强调风险分级、建立强制性合规框架；中国以统筹发展和安全为主线，通过备案、分类分级和内容标识落地。矛盾浮出水面：AI 安全的预算增长速度，远远赶不上 AI 能力渗透的速度。
据 Gartner 预测，2026 年全球 AI 总支出将达到 2.52 万亿美元，其中 AI 软件支出约 4525 亿美元，AI 网络安全支出为 513.5 亿美元。AI 安全支出在 AI 软件支出中的占比约为 11%，在 AI 总支出中的占比则更低。
Gartner 同时指出，AI 软件支出是用于保护 AI 本身的安全支出的约 9 倍。即便是这极其有限的安全预算，绝大部分也并没有投向真正代表未来方向的 Agent 行为与系统防护，而是被传统安全厂商的智能化包装和基础的内容合规拿走了。
奇安信集团董事长齐向东在 2026 中国国际软件博览会上提出，智能体部署要 " 把智能体画在圈里，管好‘手脚’ "。他提出部署圈、连接圈、权限圈、数据圈、审计圈五个圈的概念，并以智能体安全管理平台为大脑、以 AI 安全网关为中枢，形成发现、研判、定位、处置、优化的完整闭环。
" 智能体是当前提高生产力的最强引擎，数字员工将成为企业骨干。" 齐向东说，" 但智能体重构软件，安全是一道‘必答题’。" 这道必答题的答案，正在被 2026 年的市场、政策和产业实践共同书写。
但当 Gartner 的调查显示仅有约三分之一的企业拥有明确的 AI 治理结构、且其中多数仅部分遵守自身规则时，当 AI 软件支出仍是 AI 安全支出的约 9 倍时，这个答案远未完成。
当 AI 系统从 " 工具 " 走向 " 同事 "，安全不再是一个可以事后补上的选项，而是决定这场技术变革能否持续的前提条件。
信息来源说明：
数据来源：
Gartner、IDC、Technavio、AvePoint、世界经济论坛、浙商证券、天融信、绿盟科技、启明星辰、CrowdStrike、Okta、NVIDIA、OWASP、NIST、全国网络安全标准化技术委员会、欧盟 AI 法案
研报来源：
Gartner，《Worldwide AI Spending by Market, 2025-2027》，2026 年 9 月
IDC，《中国人工智能安全支出市场预测，2026-2030》
Technavio，《AI Agent 安全与身份管理平台市场报告》，2026 年 5 月
浙商证券，《AI 安全行业点评》，2026 年 9 月 22 日
报道来源：
央视网，OpenAI 模型失控入侵事件报道，2026 年 9 月
澎湃新闻，PocketOS 智能体删库事件报道，2026 年 5 月 11 日
证券之星，天融信 AI 安全业务图表，2026 年 8 月 31 日
公开报道，OpenAI 与 Hugging Face 入侵事件，2026 年 8 月 26 日
公开报道，HiddenLayer、Obsidian Security、Cyera 融资与收购，2026 年 6-9 月
其他来源：
吴世忠，西湖论剑大会发言，2026 年 9 月
齐向东，2026 中国国际软件博览会发言，2026 年
乔治 · 库尔茨，CrowdStrike 财报电话会议发言，2026 年 8 月
