AI服务器关键部件介绍

发布日期：2026-08-14

一、什么是AI服务器

AI服务器是专门为人工智能训练（Training）和推理（Inference）任务设计的服务器。与普通服务器相比，它需要处理海量的矩阵运算，因此核心区别在于：用GPU替代CPU作为主要算力来源，并围绕GPU搭建了整套硬件生态。

一台典型的AI服务器内部，关键部件包括以下几类：

GPU（Graphics Processing Unit）是AI服务器的绝对主角。它之所以适合AI计算，是因为拥有数千个并行计算核心，能够同时处理大规模矩阵乘法——而这正是神经网络前向传播和反向传播的核心操作。

以NVIDIA H100为例，单颗GPU拥有800亿个晶体管，FP16算力达到约2000 TFLOPS。一台8卡AI服务器仅GPU算力就达到约16 PFLOPS，相当于上万台普通CPU服务器的AI计算能力。

GPU内部最关键的部件是HBM高带宽内存。HBM直接与GPU计算核心封装在一起，提供超大带宽（H100的HBM3带宽约3.35 TB/s），解决"算得快但数据喂不进去"的内存墙问题。

虽然GPU是AI算力核心，但CPU仍然不可或缺。CPU负责操作系统调度、数据预处理、网络I/O控制、以及向GPU分发计算任务。AI服务器通常配置1-2颗高性能CPU（如Intel Xeon Platinum或AMD EPYC），核心数在32-96核之间。

CPU与GPU之间的数据通道通过PCIe Gen5或NVLink连接。PCIe Gen5带宽约64 GB/s，而NVLink 4.0带宽达到900 GB/s，是PCIe的14倍。因此高端AI服务器优先使用NVLink实现GPU与GPU、GPU与CPU之间的高速通信。

HBM（High Bandwidth Memory）是AI服务器中最稀缺、价值量最高的零部件之一。它通过TSV（硅通孔）技术将多层DRAM芯片垂直堆叠，并与GPU封装在同一基板上，实现极高带宽和极低延迟。

当前主流的HBM3E单颗容量约80GB-192GB，带宽超过3 TB/s。一颗AI GPU上通常搭载4-8颗HBM芯片，HBM成本占GPU总成本的约40%-50%。

HBM的产能高度集中：SK海力士占据约50%市场份额，三星约40%，美光约10%。这也是AI芯片供给的瓶颈所在——不是GPU产能不够，而是HBM供不上。

AI训练通常不是单台服务器能完成的，需要成百上千台服务器组成集群协同工作。服务器之间的高速数据传输就依赖光模块。

光模块的作用是光电信号转换：服务器内部电信号通过光模块转换为光信号，经光纤传输到另一台服务器后，再由光模块转换回电信号。

当前AI数据中心主流光模块速率为400G和800G，正在向1.6T演进。一台8卡AI服务器通常需要8-9个800G光模块，仅光模块成本就占整机的10%-15%。核心厂商包括中际旭创、新易盛、Coherent、II-VI等。

PCB（Printed Circuit Board，印制电路板）是所有芯片和元器件的载体。AI服务器对PCB的要求远高于普通服务器：

PCB在AI服务器中的价值量大幅提升，单台AI服务器PCB价值约3000-5000元，是普通服务器的3-5倍。核心厂商包括沪电股份、深南电路、鹏鼎控股等。

AI服务器功耗极高。一台8卡H100服务器满载功耗约10kW，相当于5台家用空调同时运转。这对供电和散热提出了极高要求。

供电方面，AI服务器需要2000W-3000W甚至更高的冗余电源，采用钛金级效率（96%以上）。

散热方面，传统风冷已无法满足需求，高端AI服务器普遍采用液冷方案：冷板式液冷（冷液贴在GPU表面吸热）或浸没式液冷（整个服务器泡在绝缘冷却液中）。液冷可将PUE（数据中心能源效率）从1.5降至1.1以下。

下述流程图展示了一台AI服务器内部各部件之间的关系：

AI服务器的核心逻辑是"GPU算力 + HBM内存 + 光模块互连 + 高密PCB + 液冷散热"五大支柱。理解了这五个核心部件，就理解了AI硬件产业链的投资主线。后续文章将逐一拆解每个部件的制造流程和核心厂商。