大模型时代存储市场复盘 2024-2026:AI 训推爆发下的存储需求变革

📅 2026/7/13 15:46:27
大模型时代存储市场复盘 2024-2026:AI 训推爆发下的存储需求变革
大模型时代存储市场复盘 2024-2026:AI 训推爆发下的存储需求变革一、引言:为什么大模型时代存储要"重新做一遍"2024 年之前,云上"存储"三个字,在多数架构评审会上是垫底的话题。价格年年降、可用性年年升、容量随手扩,工程师最多在冷热分层上抠一抠账单。2024 年生成式 AI 爆发之后,这套惯性彻底崩了。一次千亿参数模型的训练,checkpoint 可以是 TB 甚至 PB 级;一次多模态推理,KV-Cache 落盘的吞吐能把 SSD 打到满速;RAG 系统上线,向量库的存储 + 查询账单一个月就顶得上过去一年的对象存储支出。存储从"算力配套资源"被拉回到"决定 AI 系统性能与成本上限的核心基础设施"——这句话不是自媒体标题,是国信证券 2026 年 6 月《AI 推理需求重塑存储范式》研报里的原文(国信证券研报)。数字更直接。根据 IDC 数据,全球 DRAM 营收在 2025 年突破 1500 亿美元后,2026 年市场有望增至 5607 亿美元以上,同比增长 272%;NAND 营收也有望从 2025 年的 671 亿美元增至 2026 年的 2890 亿美元,同比增长 331%(国信证券整理 IDC 数据)。这不是常规的存储周期涨价,是 AI 直接把整个存储产业链撬到了新的量级。企业外部存储的曲线也在拐弯。据 IDC《Worldwide Quarterly Enterprise Storage Systems Tracker》,2026 年一季度全球企业外部存储市场收入达到 92 亿美元,同比增长 22.7%,其中全闪存阵列首次跨过 50% 收入占比门槛,达到 49 亿美元、同比 +32.7%;高端存储系统(ASP 高于 25 万美元)同比暴涨 60.7%,几乎全部由大规模 AI 基础设施部署驱动(IDC 官方公告)。延续本系列 26 号国产大模型价格战、27 号 API 稳定性红黑榜的复盘风格,这一篇把镜头切到"底盘":AI 训推爆发的这两年,云上存储究竟发生了什么?训练、推理、RAG、多模态、归档五档场景,成本账应该怎么算?以点点词元这样的多模型统一调度平台为例,Token 调度侧到底要不要自己囤存储?二、需求侧:训推工作流的存储访问模式要看懂这一轮存储涨价,先看懂 AI 到底怎么"用"存储。2.1 训练 checkpoint:吞吐密集 + 冷热分层千亿参数模型一次全量 checkpoint 可以到几百 GB 到 TB 级。训练框架通常按 step 或按 epoch 落盘,落盘的瞬间是典型的写放大:几十上百块 GPU 同时向存储层灌,吞吐动辄数十 GB/s。落盘之后又是典型的冷数据——大多数 checkpoint 只会被读一次(恢复用),甚至完全不会被读。这就催生了对训练存储的两个矛盾要求:峰值写入必须够快,稳态存储必须够便宜。答案是"分层":热层放高速本地 NVMe / 并行文件系统,冷层放对象存储的归档 / 深度归档层。IDC 也在 1Q26 报告里指出,“全闪存平台针对 GPU-to-storage 带宽需求的产品是增速最快的品类之一”(IDC 报告)。2.2 KV-Cache 落盘:延迟敏感 + 长尾频繁推理侧的存储压力,更多来自 KV-Cache。长上下文推理里,一个 128k token 的 session 光 KV-Cache 就可能占用几个 GB 显存。为了在多用户之间复用会话,系统会把不活跃的 KV-Cache 从 HBM 迁到 DRAM,再从 DRAM 溢出到本地 SSD,最极端会溢出到对象存储做长期保留。这条链路对延迟极度敏感——用户重新发消息时,如果 KV-Cache 命中冷层,就要多花 100ms 以上把它加载回 HBM。国信证券研报里点出:“为了打破 AI 海量数据与有限显存之间的’内存墙’,企业级 SSD 加