NAND闪存：推理时代的隐形主角
发布日期：2026-08-17
一、训练时代看GPU，推理时代看存储
过去两年，AI产业的聚光灯几乎全部打在GPU和HBM上——训练大模型需要海量并行算力和超高带宽内存，这两样部件决定了模型能多大、训练能多快。但随着GPT-4、Claude、LLaMA等大模型相继落地应用，行业重心正在从训练（Training）转向推理（Inference）。
推理和训练有一个根本区别：训练是"写密集"，推理是"读密集"。训练时梯度需要反复回写显存，GPU和HBM是绝对瓶颈；推理时模型权重一旦加载就基本只读不写，瓶颈从"算得快"转向"装得下、读得快、成本低"。这时候，NAND闪存——这个长期被AI叙事忽略的部件——开始走向舞台中央。
一句话概括：训练时代，NAND是配角；推理时代，NAND是决定大规模部署可行性的关键变量。
二、NAND闪存是什么
NAND闪存是一种非易失性存储器——断电后数据不丢失。它通过浮栅晶体管（或电荷俘获器件）中的电荷来存储数据，每个存储单元可以存1 bit（SLC）、2 bit（MLC）、3 bit（TLC）或4 bit（QLC）。存得越多，密度越高、成本越低，但寿命和速度也越差。
与HBM/DRAM这类易失性内存不同，NAND的三个核心优势恰好契合理推理场景：
- 非易失：断电不丢数据，模型权重可以持久存储，不需要每次开机重新加载
- 大容量：单颗SSD已达30TB+，一颗可装下完整的70B模型权重，远超HBM的80-192GB
- 低成本：QLC NAND每GB成本约0.03-0.05元，是HBM的1/100、DRAM的1/20
正是这三个特性，让NAND在推理时代有了不可替代的位置。
三、NAND制造全流程
NAND的制造和逻辑芯片（GPU/CPU）一样走晶圆厂流程，但有一个核心差异：NAND是3D堆叠结构。逻辑芯片在2D平面上缩小线宽，NAND则像盖楼一样往上堆层数——从32层、64层到128层、232层，再到当前领先的300+层。
其中第4步是NAND区别于逻辑芯片的核心工序：交替沉积+通道刻蚀。在硅片上交替沉积氧化层和多晶硅层（几十到上百对），然后从顶部向下打一个高深宽比的通孔（深宽比可达60:1以上），形成所有存储层共用的垂直通道。这是3D NAND最难的技术壁垒。
四、3D NAND堆叠结构
理解3D NAND为什么对推理重要，先看它的结构。3D NAND像一栋"摩天楼"，每层是一个存储平面，垂直通道像电梯井贯穿所有楼层。
层数直接决定成本竞争力。三星、SK海力士、铠侠、美光、长江存储五家厂商的竞争，核心就是拼层数和良率。当前领先的232-300层产品，单Die容量已达1Tb（128GB），一颗SSD可以轻松达到30-60TB。
五、NAND在推理时代的四大价值
这是本文的核心。为什么说NAND是推理时代的关键？
1. 模型权重存储：装得下才能跑得起来
一个70B参数模型，FP16精度下权重约140GB，INT4量化后约35GB。而单颗HBM只有80-192GB，一颗GPU装不下完整的70B模型——必须用张量并行把模型拆到多张卡上，成本极高。
但如果用SSD存储模型权重，一颗30TB SSD可以装下上百个70B模型。推理时按需从SSD加载到显存，不用一次性全部驻留HBM。这就是"大模型小显存"推理的基础——KVCache offload、权重流式加载等技术都依赖高速NAND。
2. KV Cache Offload：长上下文的性价比之选
推理时，每个用户的对话历史都会生成KV Cache（键值缓存）。上下文越长，KV Cache越大。一个128K上下文的请求，KV Cache可达数GB到十几GB。当并发用户增多时，HBM根本装不下所有用户的KV Cache。
业界方案：把不活跃的KV Cache从HBM卸载到SSD（KV Cache Offload）。用户切换时从SSD快速读回，实现"用便宜的存储换昂贵的显存"。 PCIe Gen5 NVMe SSD顺序读可达14GB/s，足以支撑这个场景。这是DeepSeek、vLLM等推理框架已经落地的核心优化方向。
3. 推理成本结构：从"算力瓶颈"到"存储瓶颈"
| 维度 | 训练阶段 | 推理阶段 |
|---|---|---|
| 核心瓶颈 | GPU算力 + HBM带宽 | 存储容量 + 加载速度 |
| 权重存储位置 | HBM（必须） | HBM + SSD（分层） |
| 每GB存储成本 | HBM约5元/GB | SSD约0.04元/GB |
| 并发能力 | 受GPU数量限制 | 受SSD容量+IOPS释放 |
| 部署门槛 | 极高（千卡集群） | 大幅降低（单机可推理） |
这张表说明了一个趋势：推理的规模化部署，最大的变量不是GPU，而是能否用便宜的NAND替代昂贵的HBM来承载不活跃数据。谁能把更多数据放在SSD上，谁的推理成本就更低、并发就更高。
4. 边缘推理与端侧AI：NAND是唯一可行方案
推理不仅在云端，更在边缘和端侧——手机、PC、汽车、机器人。这些设备不可能装HBM（太贵太耗电），但都标配大容量NAND闪存。一部旗舰手机已有1TB UFS闪存，完全装得下量化后的7B-13B模型。
苹果Apple Intelligence、高通AI Engine、联发科NPU的端侧推理方案，模型权重全部存储在NAND中，推理时加载到LPDDR运行。没有NAND的大容量低成本特性，端侧AI根本无法落地。这也是为什么手机厂商在AI手机上疯狂堆存储——8GB RAM + 256GB闪存跑不了大模型，16GB RAM + 1TB闪存才行。
六、核心厂商格局
| 厂商 | 份额 | 当前领先层数 | AI推理相关布局 |
|---|---|---|---|
| 三星 Samsung | ~33% | 236层 V8 | 面向AI的9400系列SSD、大容量CSD |
| SK海力士 SK Hynix | ~20% | 238层 | 企业级eSSD、与HBM协同方案 |
| 铠侠 Kioxia | ~19% | 218层（BiCS6） | 与西部数据合作，CD9系列企业SSD |
| 美光 Micron | ~12% | 232层 | 6500 ION系列大容量QLC SSD |
| 长江存储 YMTC | ~10% | 232层 Xtacking 3.0 | 企业级SSD加速国产替代 |
| 西部数据 WDC | ~6% | 218层（与铠侠合研） | OptiNAND、企业级大容量SSD |
值得注意的是QLC（4bit/cell）技术的成熟。QLC虽然耐久性只有TLC的1/3-1/4，但容量密度提升33%，单GB成本再降20%+。对于推理场景——模型权重是只读的、写入极少——QLC的耐久性短板几乎不影响使用，而成本优势极其显著。推理时代QLC SSD将加速取代TLC成为主流。
七、未来趋势：存储即推理基础设施
总结推理时代NAND的三重价值递进：
- 容量红利：3D NAND层数从232层向400+层演进，单SSD向60-120TB发展，能装下更大的模型和更多用户的KV Cache
- 速度红利：PCIe Gen5/Gen6 + NVMe协议让SSD顺序读突破14-28GB/s，模型加载从分钟级降到秒级，KV Cache offload延迟可接受
- 成本红利：QLC+层数提升使每GB存储成本持续下降，推理的边际成本随SSD降价而降低，而GPU/HBM成本下降缓慢
当行业从"训练100个大模型"转向"部署1个大模型给1亿人用"时，瓶颈从算力转向存储。NAND闪存——量大、便宜、够快——正是推理规模化的基石。下一轮AI硬件投资的焦点，GPU和HBM之外，NAND不容忽视。