五年前，存储还只是配角，负责存放训练数据、保存检查点 , 在 GPU 需要时提供数据。但今天 , 当大模型参数量突破万亿级别、推理 Token 消耗量一年增长近 20 倍时 , 存储系统正被迫从幕后走向台前 , 成为制约 AI 落地的核心瓶颈。
存储跟不上 AI 的节奏
OpenRouter 与 a16z 联合发布的《State of AI》报告显示，OpenRouter 平台的年 Token 处理量在一年内从约 10 万亿飙升至超过 100 万亿，单日峰值已突破 1 万亿。训练在涨，推理在涨，涨得比所有人的预算都快。
与此同时，中国信通院发布的数据显示 , 全球 AI 推理算力市场规模从 2021 年的 14.04 亿美元跃升至 2024 年的 139.58 亿美元 , 年均复合增长率达到 66.3%。更关键的是 , 推理工作负载占比从 2023 年的 41.3% 持续攀升 , 预计 2026 年将达到 70.5%, 实现对训练算力的全面超越。这意味着 ,AI 算力市场正经历从 " 训练驱动 " 到 " 推理驱动 " 的根本性转变。
推理市场和需求的爆发式增长带来了一个问题：作为数据搬运工的内存和 SSD 并没有以同样的速度变快。于是如今业内经常看到最贵的芯片经常处于 " 待机等数据 " 的状态，而存储设备，成了决定整个 AI 系统性价比的关键变量。这不是某一家厂商的危机，而是整个存储行业的一次集体考题。
TrendForce 集邦咨询的数据同样印证了这一趋势 :2025 年全球企业级 SSD 市场规模达 280 亿美元 ,2026 年第一季度全球前五大企业级 SSD 营收达 201 亿美元 , 环比增长 85.8%。三星电子保持第一名 ,2025 年第四季营收近 36.6 亿美元 , 季增 49.7%;SK 集团 ( 含 SK 海力士和 Solidigm ) 位居第二 , 营收 32.6 亿美元 , 季增超过 75%; 美光位居第三 , 营收超过 14 亿美元 , 季增 41.4%。
训练时代，SSD 像个仓库主要的工作是装下海量的文本、图片、视频，等 GPU 开工时按批送货，此外还需要写检查点。大模型训练时间通常需要数月，几千张卡里随时可能有卡掉队，所以要定期把模型参数和优化器状态落盘，出事时好从最近的检查点爬起来。这两件事对存储的要求很朴素：带宽要够大，容量要够多，别掉链子。
进入推理阶段后，情况发生了变化。存储从数据通路的旁支，被推上了主干道。
变化的根源在于 Transformer 架构的运行机制。模型每生成一个新 Token，都需要计算其与前文所有词元之间的关联关系，这些中间结果被缓存为 KV Cache。上下文越长，KV Cache 越大，且随上下文长度线性增长。当前主流模型普遍支持百万级上下文，单条会话的 KV Cache 即可占用数 GB 至数十 GB 空间。而 HBM 是全数据中心单位成本最高的存储空间，以其承载长上下文，在成本上并不具备可持续性。
这就造成了 KV Cache 向外溢出。首先是主机 DRAM，进而下沉至 SSD。存储的角色由此从数据容器，转变为 GPU 的扩展内存。这一位移带来的直接后果是：存储层的任何延迟抖动，都会被转化为 GPU 的空转时间。
需求结构的变化，已经在市场规模上得到验证。据 Counterpoint Research 的季度追踪，2026 年第二季度企业级 SSD 已占全球 NAND 闪存出货容量的 48%，而一年前这一比例仅为 26%，该机构预计到 2026 年底将超过一半。
面对推理时代对存储的需求，西安三星电子研究所存储解决方案部技术总监何兴把问题归结为三个层面。
首先是数据 " 喂 " 不饱 GPU。传统的存储系统是为 CPU 设计的。当 GPU 需要数据时，数据必须先经过 CPU、再经过主机内存，才能最终到达 GPU，这个过程中，每一步都在消耗时间和资源。三星的实测数据显示，在 4KB 小 I/O 条件下，系统实际只用了接口带宽的约 27%，其余 73% 被软件开销 " 吃掉了 "。何兴直言：" 传统的 PCIe、NVMe 发展了很多年，有软件负担，要兼顾老设备和复杂情况。但在 AI 场景下，这些历史包袱有可能被简化。"
其次是 KVCache 的 " 写放大 " 困局。大模型推理中，KVCache 是维持长对话上下文的关键。但当 KVCache 被卸载到 SSD 时，不同请求的 KV 数据交错存储，一旦某条数据过期，SSD 必须将同一块中其他有效数据重新写入，但这大幅缩短了 SSD 的使用寿命，也拉低了系统吞吐。
第三是万亿参数模型装不进显存。当前主流大模型已普遍转向 MoE（混合专家）架构，其核心优势在于稀疏激活：每个 Token 仅需唤醒少量专家，模型规模得以大幅扩张，而算力开销不会同比例上升。但其代价是，全部专家权重仍需常驻显存。算力开销因此得到控制，显存占用并未同步下降。万亿参数模型的权重规模远超单机 HBM 容量，只能下沉至到系统内存和 SSD，而决定模型实际吞吐的，正是 SSD 的随机读取性能。
这三个新的需求将存储系统推到了台前，过去几十年，存储的设计思路是围着 CPU 转。但如今行业必须回答一个问题：存储，该怎么变？
硬件提速，软件减负
针对前文提到的三个新需求，三星半导体 Memory 战略规划总监冯方将产业的应对路径归纳为两个方向：一是提升硬件本身的性能与容量，二是压缩软件栈的冗余开销。三星近两年的产品与技术布局，提供了一个相对完整的观察样本。
先说硬件，竞争的主角首先是 HBM。这个市场的座次这两年发生了戏剧性变化。SK 海力士凭借多年深耕，成为英伟达 HBM 的核心供应商；但三星电子正在快速追赶，在 HBM4E 的送样节奏上抢先一步—— 2026 年 5 月 29 日，三星率先向全球主要客户交付业界首批 12 层 HBM4E 样品；约三周后，SK 海力士于 6 月 18 日跟进，向主要客户交付 12 层 HBM4E 工程样品。
在技术规格上，HBM4E 相较前代实现了显著跨越。三星 12 层 HBM4E 单堆栈容量达 48GB，可提供稳定的 14Gbps 引脚传输速度，性能可扩展至 16Gbps，单堆栈带宽高达 3.6TB/s；能效较 HBM4 提升 16% 以上，热阻改善超 14%。SK 海力士的 12 层 HBM4E 同样实现 48GB 容量，单引脚最高数据处理速率达 16Gbps，能效提升 20% 以上，热阻改善 17%。双方均采用 12 层堆叠达成 48GB 容量，用更少的堆叠层数实现了更高的容量密度，直接回应了 AI 训练与推理对内存带宽和容量的持续攀升的需求。
三星作为 HBM 市场先行者，其优势被三星半导体 Memory 战略规划总监概括为概括为 " 端到端整合 "。全球范围内能同时自研 NAND 颗粒、DRAM、主控芯片并拥有强大固件能力的厂商屈指可数。这意味着当头部云厂商提出定制需求时，三星可以在内部闭环完成底层逻辑修改，而无需像主控外购的厂商那样与第三方来回拉锯数月。
这种垂直整合在具体产品上体现为几个标志性成果。
在内存层面，三星率先押注 CXL。自 2019 年 CXL 联盟成立以来，三星一直担任董事会成员，在此次 ODX 大会上，三星展示了最新的 CMM-D 320 内存模块，该产品基于 CXL 3.2 协议，提供 128GB 和 256GB 两档容量。延迟上，其器件级访问延迟约 110 纳秒（三星测试数据）——这一水平已非常接近本地 DDR 内存 80 纳秒的物理延迟。配合 64 字节 Cache Line 粒度的原生 load/store 访问与缓存一致性，CPU 可将其作为可寻址内存直接使用，无需经过网络协议栈与消息语义转换——这正是它与基于 RDMA 的远端内存池方案在访问语义上的根本分野，也是它能够承接推理侧 KV Cache 卸载与内存池化的原因。
面向端侧 AI 的爆发式需求，三星在 ODX 2026 上首次在国内公开讲解了 zNAND-O 技术。该产品基于 SLC 晶片与 TSV 硅通孔技术，以与 DRAM 相当的带宽实现了十倍于 DRAM 的位元密度、七倍于 NAND 的读取带宽，并将 NPU 与存储集成在单一封装内，通过 UCIe 接口互连。zNAND-O 使内存成本下降四倍、性能不降，且能承载接近两倍规模的模型（三星仿真数据，实际结果随系统配置与负载而异）。端侧推理与云端推理，正在形成两条相辅相成的路线。
在 SSD 侧，三星给出了性能与容量两条并行的产品线。面向性能市场的是 PM1763 ——三星的 PCIe Gen6 企业级 SSD，采用第九代 V-NAND（V9）TLC 颗粒、自研 4nm 主控与 PCIe Gen6 接口，并针对液冷服务器环境做了专门设计。值得注意的是颗粒、主控、固件同出一家这件事本身。Gen6 把接口带宽又翻了一倍之后，瓶颈往往不在 NAND 颗粒，而在主控与固件能否把这些带宽真正调度出去——自研主控意味着这部分优化可以在内部闭环完成，这正是前文 " 端到端整合 " 最直接的体现。
与之互补的容量型产品 BM1773 则扛起高密度存储的旗帜，同样基于第九代 V-NAND 但采用 QLC 颗粒，覆盖 16TB 至 256TB 容量区间，面向 AI 数据湖、检查点归档和 KV Cache 冷热分层下沉等大容量场景，在 " 性能 " 与 " 预算 " 之间为云厂商提供了第二个可选的坐标点。
在固件层面，三星重点解决 AI 推理中 KV Cache 卸载引发的写入放大问题。其 PCIe Gen5 企业级 SSD 率先导入 FDP（灵活数据放置）技术——由主机告知 SSD" 这批数据属于同一类业务、生命周期相同 "，SSD 便将其物理隔离存放，从而显著减少无效数据搬移。三星基于 LMCache 框架和 8 张 RTX 6000 GPU 的内部测试显示，启用 FDP 后峰值 WAF 降低 49%，累计 NAND 写入量减少 36%。更进一步，三星还推出了 " 无感 FDP" 的 JBOF 参考固件，主机端无需修改任何软件代码，固件在盘阵侧自动完成数据热度分析和 LBA 映射。在延迟的分位测试中，当可靠性要求推到 7 个 9（99.99999%）时，这套方案的延迟约为原生内核方案的四分之一，为 MoE 专家卸载等场景提供了坚实的存储底座。
从 CXL 的内存池化，到 zNAND-O 的端侧内存层级的重构，再到 FDP 的 SSD 智能优化，三星正以多维度硬件创新回应 AI 对内存带宽、容量、延迟和成本的全方位挑战。
再看软件侧。今年 8 月初的北美 FMS 大会上，英伟达发布了 " 三件套 "：宣布开源 GPUDirect Storage（GDS）的 cuFile API、推出 SCADA 架构，并发布了 Storage Next 的产业愿景。如果说此前的 GDS 主要解决了大文件的顺序读写，那么以 SCADA 为代表的新一代 GiDS 方案，则将 " 控制权 " 也彻底从 CPU 剥离，专门攻克 AI 缓存中海量小文件的随机读写瓶颈。与此同时，AMD 也在推进类似定位的 ROCm-XIO，计划让 GPU/XPU 直接发起 I/O。NVIDIA 博客的官方表述是：要让 GPU 以微秒级速度直接读写存储。
系统软件厂商同样闻风而动：Pure Storage 的 FlashBlade 系列产品是最早获得 NVIDIA GPUDirect Storage 认证的全闪存储之一，并已进入 NVIDIA DGX SuperPOD 认证存储名单；VAST Data 以其 " 解耦共享一切 "（DASE）架构切入 AI 存储市场，让所有存储控制器共享全部介质与元数据，近期还与 Cloudera 达成战略合作共建 "AI 工厂 "；Weka、Hammerspace 等并行文件系统厂商则通过 GPUDirect 支持切入英伟达生态。
主控厂商也没闲着，Marvell 在 2025 年 11 月的一篇博客中明确提出，AI 正在催生 "GPU 发起的存储 " 与 "CPU 发起的存储 " 的分化：未来针对 GPU 直连优化的 SSD，将把 IOPS 和延迟放在首位，与面向 CPU、以容量和吞吐为先的传统 SSD 形成两条产品线。
而三星给出的答案则是 AiSIO（Accelerator-integrated Storage I/O）——一个让 GPU 能够直接 " 开车 " 去 SSD 取数据的开源软件框架，对此，冯方告诉我们，在 NVIDIA H100 加三星 PCIe Gen5 NVMe SSD 的测试平台上，AiSIO 实现了三种 I/O 模式的全支持，"16 块盘整机可达 6150 万 IOPS，CPU 占用仅需 1.5 个核心（3 个线程）。目标 1 亿 IOPS，预计只需 2 个 CPU 核心（约 24 块盘），甚至在 GiDS 模式中可以不占用 CPU 资源 " 冯方介绍道。
更重要的是，AiSIO 完全兼容现有文件系统，无需改造已有软件栈，且全部开源，已部分合入或计划合入 Linux 内核主线。" 我们 2026 年在原来和特定厂商合作的基础上，全部更新了公开的、大家都可以用的开源实现。" 冯方进一步指出，" 这一决策的意义在于，任何加速器厂商都可以接入。"
硬件与软件两条线，正在汇成同一个结论：未来的存储竞争力，不再是堆参数，而是系统级的协同设计。无论是三星的端到端整合、SK 海力士的 HBM 先行、Solidigm 的密度路线，还是英伟达与 AMD 主导的直连存储生态，所有人都在回答同一道题：如何让数据以最低的代价、最快的速度，抵达最需要它的计算单元。
当存储开始 " 计算 "
如果我们再把时间线拉长，存储行业接下来 " 卷 " 的方向已经跃然纸上，冯方与何兴也都给出了统一的答案：存储将不再只是数据的仓库，而是长出计算能力的车间。这个趋势，业界称之为 " 近数据计算 "，与其把数据千里迢迢搬到计算单元，不如让计算能力下沉到数据旁边。
这个判断并非空穴来风，而是产业演进的必然。何兴与我们分享了存储金字塔：G1 是 GPU 的 HBM，G2 是 CPU 内存，G3 是本地 SSD，G3.5 是分布式存储池，G4 是传统存储阵列。AI 负载对每一层的要求不同，热数据要低延迟，冷数据要大容量、低成本。而管理这个分层、决定数据该待在哪一层，本身就是计算任务。
基于此，何兴告诉我们，三星 Seamless FDP 固件做的事是运行时分析数据热度、动态更新 LBA 映射、自动分配回收单元，" 本质上就是让计算发生在数据旁边，这就是近数据计算最朴素也最有效的形态。" 何兴强调。
事实上，这条路上早有先行者：ScaleFlux 等公司几年前就把硬件压缩 / 解压引擎直接做进了 SSD 主控，让数据在写入盘片的瞬间完成压缩，CPU 和主机总线全程无感；而 Marvell 眼中的 "GPU-initiated 存储 " 分化，本质上也是把 I/O 决策的计算权从主机交还给了离数据更近的设备。
沿着这个思路，以及当前存储厂商的业务方向可以预见未来企业级存储行业的发展趋势。首先就是盘内计算与索引能力会持续增强。RAG 场景下，推理系统需要从海量向量中做相似度检索，如果 SSD 或存储阵列能内置向量索引，将索引的操作在存储上完成，网络和主机的负担都会大幅下降。三星 JBOF 固件中 " 运行时负载分析与 LBA 映射 " 的设计，已经是这类能力的雏形。
其次，KV Cache 的管理权正在向存储侧迁移。数据冷热分层、预取、过期回收，这些过去由推理框架承担的调度逻辑，正在部分下沉到存储固件中，形成 " 存储即缓存层级 " 的新角色。
第三，内存与存储的边界会进一步模糊。CXL 让 SSD 有了挂上内存总线的可能，而三星最新推出的 zNAND-O 则干脆把 NAND 与 NPU 封装在一起，内存和存储之间那条延续数十年的分界线，正在被 AI 的需求一点点抹平。
而 SK 海力士与闪迪主推的 HBF（High Bandwidth Flash，高带宽闪存）也遵循着类似逻辑：将 NAND 像 HBM 一样垂直堆叠，通过 UCIe 接口与处理器相连。
除了存储离计算场景 " 更近 " 这点改变之外，对于存储厂商而言，业务模式也在发生着变化。冯方告诉我们，原先存储厂商更多是提供一个标准化的硬件产品，而在 AI 时代，需要存储厂商更多的深入到客户业务场景中，提供软硬协同的定制化服务。冯方透露，三星已在全球设立 Memory Research Center（SMRC）等研发支持职能，把软件和固件工程师直接派到头部云厂商的架构师身边，现场闭环解决问题，" 我们不再是简单地卖一块盘，而是提供一套无缝的解决方案。" 冯方这样形容当前三星存储业务。
从英伟达开放 GDS 接口、到三星把 AiSIO 推上 Linux 内核主线，再到 VAST 与 Cloudera 共建 "AI 工厂 "，整个行业的合作方式都在从 " 标准品交付 " 转向 " 联合设计 "。
存储行业过去数十年的核心职责，是安全且完整地保存数据。而现在，其被要求在正确的时刻、以可接受的成本，将数据送达正确的位置。存储设备最终将获得多少算力、能在多大程度上自主完成数据相关的处理，业界尚无定论。但方向已经明确：既然数据移动的代价已难以承受，让计算向数据靠拢便成为必然选择。
（文｜Leo 张 ToB 杂谈，作者｜张申宇，编辑丨杨林）
