HBF高带宽闪存：AI推理时代的存储新层级
发布日期：2026-08-18
一、为什么需要HBF
大模型从训练走向推理，存储架构正经历一场深刻变革。训练时代，GPU旁边的HBM（高带宽内存）是绝对主角——它提供TB/s级带宽，让数千个计算核心疯狂吞吐矩阵数据。但进入推理时代，一个尴尬的矛盾暴露出来：HBM带宽够快，但容量太小、成本太高。
以当前主流的HBM3E为例，单栈容量仅80-192GB，而一个70B参数模型的权重就有约140GB，加上KV Cache和中间激活值，轻松超出单栈容量。要装下更大的模型（如405B），需要8栈甚至更多HBM，成本高达数万美元。图灵奖得主David Patterson在2026年4月明确指出："AI从训练走向大规模推理后，下一个供给瓶颈将是HBF。"
2026年8月4日，闪迪（SanDisk）和SK海力士通过开放计算项目（OCP）正式发布了首个HBF（High Bandwidth Flash，高带宽闪存）标准规范，一种介于HBM和SSD之间的全新存储层级正式诞生。
二、HBF是什么
HBF的全称是High Bandwidth Flash（高带宽闪存）。它将3D NAND闪存芯片通过TSV（硅通孔）技术垂直堆叠，配合专用逻辑芯片和中介层，形成与HBM类似的近存封装架构——但底层介质从DRAM换成了NAND Flash。
简单理解：HBF = NAND闪存的容量优势 + HBM的堆叠封装思路。它不是要取代HBM，而是在HBM和SSD之间插入一个新的存储层级。
三、HBF与HBM的核心差异
HBF和HBM外形相似——都是通过TSV垂直堆叠的近存封装，但内核完全不同。以下是六个维度的系统对比：
| 对比维度 | HBM（高带宽内存） | HBF（高带宽闪存） |
|---|---|---|
| 底层介质 | DRAM（动态随机存取） | NAND Flash（闪存） |
| 易失性 | 易失（断电丢数据） | 非易失（断电不丢） |
| 单栈容量 | 64-192GB | 最高512GB |
| 带宽 | ~2TB/s（HBM4） | 0.4-3.0TB/s |
| 延迟 | ~10ns | 数百ns~微秒级 |
| 每GB成本 | 约5元/GB | 约0.8-1.2元/GB（HBM的1/5~1/6） |
| 堆叠方式 | 8-16层DRAM + TSV | 12-16层3D NAND + TSV |
| 适用场景 | 训练、高并发实时推理 | 推理KV Cache、模型权重存储 |
| 量产状态 | 成熟量产（HBM3E/HBM4） | 样品阶段，2027年商用 |
从表中可以看出，HBF的核心优势是容量和成本——在相近带宽下，容量是HBM的8-16倍，成本仅为其1/5到1/6。代价是延迟高了两个数量级，因此HBF无法替代HBM做主内存，而是作为二级近存，承接HBM装不下的海量数据。
四、HBF技术架构
HBF的技术核心是将3D NAND闪存以TSV方式垂直堆叠，再与逻辑控制芯片通过中介层互连，最终与GPU/AI加速器同封装。其关键技术创新包括：
- 3D NAND堆叠：采用12-16层3D NAND die垂直堆叠，基于SK海力士238层3D NAND，12-Hi堆叠可实现等效2866层结构
- TSV硅通孔：与HBM相同的TSV工艺，实现层间高速互连，但连接的是NAND而非DRAM
- HBF Core Die：非标准3D NAND，采用定制高速接口的专用闪存芯片，闪迪称之为"HBF核心裸片"
- UCIe互连：采用通用芯粒互连标准（UCIe），支持与异构计算平台集成
- 三档带宽等级：0.4TB/s（入门）、1.6TB/s（主流）、3.0TB/s（高端），适配不同推理场景
五、HBF制造流程
HBF的制造融合了3D NAND生产和先进封装两条工艺线，整体流程可分为六个关键环节：
HBF制造的关键挑战在于NAND堆叠的良率和TSV工艺与NAND的结合。传统3D NAND堆叠不需要TSV（那是HBM的工艺），HBF将两者融合，要求厂商同时具备NAND生产和先进封装能力——这天然构成了技术壁垒。
六、核心厂商格局
HBF产业链参与者比HBM更广泛。HBM只有三星、SK海力士、美光三家能做，而HBF基于NAND，全球NAND厂商均有机会参与。以下是目前的主要玩家：
| 厂商 | 角色定位 | HBF进展 |
|---|---|---|
| SK海力士 + 闪迪 | HBF标准联合发起者 | 2026H2送样，2027年商用 |
| 三星电子 | HBM+HBF双线布局 | 已完成HBF原型验证，另有zHBM路线 |
| 铠侠（Kioxia） | 纯NAND玩家 | 展示5TB原型模块（64GB/s） |
| 美光 | DRAM+NAND双线 | 跟进HBF技术研发 |
| 长江存储（CXMT） | 国产NAND核心 | Xtacking技术有混合键合积累 |
| 江波龙 | 国产HBF模组 | 与闪迪联合开发HBF固件 |
| 长电科技 | 先进封测 | 通过闪迪HBF工艺认证 |
其中最值得关注的是SK海力士和三星——它们是目前全球唯一同时具备HBM（DRAM堆叠）和HBF（NAND堆叠）量产能力的企业。韩国科学技术院教授金正浩评价："闪迪和铠侠虽然只能做HBF做不了HBM，三星和SK海力士拥有引领未来最强大的工具。"
SK海力士提出了"H3"架构——将HBM与HBF统一设计并列部署于GPU旁，热数据走HBM、温数据走HBF，能效比优于纯HBM方案。这很可能成为未来AI服务器的标准配置。
七、HBF的推理时代价值
HBF的核心价值在AI推理场景中得到充分释放，体现在四个方面：
1. 模型权重存储
一个512GB的HBF栈可以完整装下多个大模型权重（如4个120B模型），且断电不丢失。相比之下，HBM每次重启都需要从SSD重新加载模型，耗时数分钟。HBF让"模型常驻"成为可能。
2. KV Cache Offload
大模型推理时，KV Cache随上下文长度线性增长——128K上下文的70B模型KV Cache可达数十GB。将低频访问的KV Cache从HBM卸载到HBF，可以用1/5的成本获得相近带宽，大幅降低推理成本。
3. 成本结构变革
纯HBM方案中，存储成本占AI服务器60%以上。引入HBF后，热数据用HBM、温数据用HBF，整体存储成本可降低40-60%。SK海力士预测，混合HBM+HBF架构可减少运行大模型所需的加速器数量。
4. 端侧AI落地
HBF的非易失特性使其天然适合端侧AI——手机、PC、车机不需要HBM的极端带宽，但需要大容量、低成本、断电不丢的模型存储。HBF的功耗远低于HBM，更适合功耗受限的端侧场景。
八、未来展望
HBF目前仍处于早期阶段——标准刚刚发布，样品尚未交付。但产业界的共识正在形成：
- 2026年下半年：闪迪交付首批HBF工程样品
- 2027年：搭载HBF的AI推理设备样品面世，商业化启动
- 2028-2030年：HBF进入主流AI服务器，HBM+HBF混合架构成为标配
- 2038年：金正浩预测HBF需求有望超越HBM
"HBM之父"金正浩将HBM比喻为书架，HBF比喻为图书馆——书架取书快但容量有限，图书馆容量大但需要走几步。未来AI系统的竞争力不只取决于"算得快"，更取决于"装得下、记得住、调得动"。HBF正是补上这块拼图的关键一环。