H100 223W 是什么？聊聊GPU推理稳态功耗

223W 从哪里来

很多人看到"H100 223W"会误以为是显卡功耗，实际它既不是官方 TDP（H100 SXM 官方 TDP 为 700W），也不是最大功耗。它是特定 LLM 推理负载（如 70B 模型、一定并发、长上下文）下的稳态平均功耗，属于实测业务参考值。

为什么它有用

对做项目测算的人来说，稳态功耗比峰值 TDP 更贴近机柜真实电费：UPS 容量、空调制冷、PUE、月度电费，都应基于稳态负载而非纸面 TDP 计算。

注意

不同模型、并发、上下文长度下稳态功耗差异很大，223W 只是某类负载下的参考，不可直接套用所有场景。需要结合自身业务做实测或由方案商出具测算。