数据中心 — 如何运作以及为何扩张
关于服务器、机架、工作负载、电力、冷却以及制约数据中心扩张的物理链条的指南。
摘要
- 数据中心将 IT 设备与电力、冷却、连接、安全和运营结合在一起。
- 组件、服务器、机架与设施的功率是不同的度量。
- 人工智能机架可以非常密集,但并不代表典型设施。
- 容量取决于多层工业环节;瓶颈可能在其间转移。
系统
数据中心集中信息技术设备以及使其保持通电、连接、冷却和可用所需的基础设施。IT 层包括服务器、加速器、内存、存储和网络。设施则增加电力转换、UPS、配电、冗余、冷却、物理安全和建筑。 [1] [2]
云不是与人工智能、视频或数据库等同的应用。它是一种交付与运营模式,不同工作负载在其中共享基础设施。 [3]
类型与指标
设施可以是企业自有、托管(colocation)、超大规模、边缘或专用型。这些类别取决于所分析的问题,并不一定构成互斥分组。 [2]
还必须区分:
- 组件功率;
- 服务器功率;
- 机架功率;
- 设施总功率;
- 随时间的消耗;
- 已完成的计算工作。
TDP 并不衡量服务器或站点的消耗。PUE 描述在既定边界内设施总能耗与 IT 能耗之间的关系;它不衡量软件效率、工作负载价值或完整环境影响。 [1] [4]
人工智能架构
高密度加速器系统会改变机架。NVL72 配置集成计算托盘、NVLink 交换机、供电与液体冷却,NVIDIA 文档中的功率约为 120 kW。这是一种特定配置。 [5]
在 Uptime 2025 调查中,709 名运营商中有 82% 表示其设施中已部署的最高密度仍低于 30 kW。该调查衡量的是每个应答设施的最高密度,而非所有机架的分布。因此,高密度产品与典型机架属于不同的总体。 [6]
基准测试与效率
MLPerf Inference 在既定模型和情景中衡量性能。当提交功率数据时,系统的 AC 功率在运行期间被测量。比较要求模型、精度、情景、软件和配置兼容。 [7] [8]
基准测试结果不应直接换算为年消耗、平均利用率或整个数据中心的能耗。 [7] [8]
依赖链条
容量取决于一条可能包括晶圆厂、先进封装、HBM、网络芯片、光学器件、服务器、机架、冷却、电力设备、建设与调试的序列。公司报告显示部分环节存在依赖与供应受限,但并不提供可比较的全球平均交付周期。 [9] [10] [11]
当某一层扩张快于另一层时,瓶颈可能转移。
仍未测量的内容
没有稳健的公开来源可在全球范围内将容量划分为人工智能、视频、数据库、网络服务、分析、HPC、存储及其他工作负载。权威研究将这一缺失视为不确定性,而不是授权用代理指标近似份额。
同样没有可比较的全球测量:
- 服务器与加速器利用率;
- 空闲功率;
- 按机架的密度分布;
- 各层交付周期;
- 已安装容量与可用容量。
采用率代理指标不会被呈现为物理或能源份额。
参考文献
- U.S. EPA ENERGY STAR — Data center rating FAQ and PUE definition. U.S. EPA. 查阅于 24 jul. 2026.
- LBNL — 2024 United States Data Center Energy Usage Report. Lawrence Berkeley National Laboratory. 查阅于 24 jul. 2026.
- NIST — The Definition of Cloud Computing (SP 800-145). NIST. 查阅于 24 jul. 2026.
- NVIDIA — H100 Tensor Core GPU specifications. NVIDIA. 查阅于 22 jul. 2026.
- NVIDIA — DGX GB Rack Scale Systems Hardware Guide. NVIDIA. 查阅于 24 jul. 2026.
- Uptime Institute — 2025 Global Data Center Survey. Uptime Institute. 查阅于 24 jul. 2026.
- MLCommons — MLPerf Inference benchmark documentation. MLCommons. 查阅于 24 jul. 2026.
- MLCommons — MLPerf Inference power measurement methodology. MLCommons. 查阅于 24 jul. 2026.
- NVIDIA — FY2026 Form 10-K. NVIDIA / SEC. 查阅于 24 jul. 2026.
- AMD — FY2025 Form 10-K. AMD / SEC. 查阅于 24 jul. 2026.
- Arista Networks — FY2025 Form 10-K. Arista / SEC. 查阅于 24 jul. 2026.