硬件参数参考

AI算力GPU硬件

下表引用NVIDIA官方公开Datasheet规格及公开资料,仅作技术选型参考。

型号 架构 HBM显存 显存带宽 官方TDP
A100 80GB Ampere 80GB HBM2e 2.0TB/s 400W
H100 PCIe Hopper 80GB HBM3 2.0TB/s 350W
H100 SXM Hopper 80GB HBM3 3.35TB/s 700W
H20 Hopper 96GB HBM3 4.0TB/s 400W
H200 SXM Hopper增强 141GB HBM3e 4.8TB/s 700W
B200 Blackwell 192GB HBM3e 8TB/s 1000W
B300 Blackwell Ultra 288GB HBM3e 8TB/s 1400W

注:上表为官方标称TDP与峰值规格;实际推理负载稳态功耗通常明显低于标称TDP,详细分析见技术专栏文章。