跳转到正文
作者 NiLu 更新于

数据中心 — 如何运作以及为何扩张

关于服务器、机架、工作负载、电力、冷却以及制约数据中心扩张的物理链条的指南。

摘要

  • 数据中心将 IT 设备与电力、冷却、连接、安全和运营结合在一起。
  • 组件、服务器、机架与设施的功率是不同的度量。
  • 人工智能机架可以非常密集,但并不代表典型设施。
  • 容量取决于多层工业环节;瓶颈可能在其间转移。

系统

数据中心集中信息技术设备以及使其保持通电、连接、冷却和可用所需的基础设施。IT 层包括服务器、加速器、内存、存储和网络。设施则增加电力转换、UPS、配电、冗余、冷却、物理安全和建筑。 [1] [2]

云不是与人工智能、视频或数据库等同的应用。它是一种交付与运营模式,不同工作负载在其中共享基础设施。 [3]

类型与指标

设施可以是企业自有、托管(colocation)、超大规模、边缘或专用型。这些类别取决于所分析的问题,并不一定构成互斥分组。 [2]

还必须区分:

  • 组件功率;
  • 服务器功率;
  • 机架功率;
  • 设施总功率;
  • 随时间的消耗;
  • 已完成的计算工作。

TDP 并不衡量服务器或站点的消耗。PUE 描述在既定边界内设施总能耗与 IT 能耗之间的关系;它不衡量软件效率、工作负载价值或完整环境影响。 [1] [4]

人工智能架构

高密度加速器系统会改变机架。NVL72 配置集成计算托盘、NVLink 交换机、供电与液体冷却,NVIDIA 文档中的功率约为 120 kW。这是一种特定配置。 [5]

在 Uptime 2025 调查中,709 名运营商中有 82% 表示其设施中已部署的最高密度仍低于 30 kW。该调查衡量的是每个应答设施的最高密度,而非所有机架的分布。因此,高密度产品与典型机架属于不同的总体。 [6]

基准测试与效率

MLPerf Inference 在既定模型和情景中衡量性能。当提交功率数据时,系统的 AC 功率在运行期间被测量。比较要求模型、精度、情景、软件和配置兼容。 [7] [8]

基准测试结果不应直接换算为年消耗、平均利用率或整个数据中心的能耗。 [7] [8]

依赖链条

容量取决于一条可能包括晶圆厂、先进封装、HBM、网络芯片、光学器件、服务器、机架、冷却、电力设备、建设与调试的序列。公司报告显示部分环节存在依赖与供应受限,但并不提供可比较的全球平均交付周期。 [9] [10] [11]

当某一层扩张快于另一层时,瓶颈可能转移。

仍未测量的内容

没有稳健的公开来源可在全球范围内将容量划分为人工智能、视频、数据库、网络服务、分析、HPC、存储及其他工作负载。权威研究将这一缺失视为不确定性,而不是授权用代理指标近似份额。

同样没有可比较的全球测量:

  • 服务器与加速器利用率;
  • 空闲功率;
  • 按机架的密度分布;
  • 各层交付周期;
  • 已安装容量与可用容量。

采用率代理指标不会被呈现为物理或能源份额。

参考文献

  1. U.S. EPA ENERGY STAR — Data center rating FAQ and PUE definition. U.S. EPA. 查阅于 24 jul. 2026.
  2. LBNL — 2024 United States Data Center Energy Usage Report. Lawrence Berkeley National Laboratory. 查阅于 24 jul. 2026.
  3. NIST — The Definition of Cloud Computing (SP 800-145). NIST. 查阅于 24 jul. 2026.
  4. NVIDIA — H100 Tensor Core GPU specifications. NVIDIA. 查阅于 22 jul. 2026.
  5. NVIDIA — DGX GB Rack Scale Systems Hardware Guide. NVIDIA. 查阅于 24 jul. 2026.
  6. Uptime Institute — 2025 Global Data Center Survey. Uptime Institute. 查阅于 24 jul. 2026.
  7. MLCommons — MLPerf Inference benchmark documentation. MLCommons. 查阅于 24 jul. 2026.
  8. MLCommons — MLPerf Inference power measurement methodology. MLCommons. 查阅于 24 jul. 2026.
  9. NVIDIA — FY2026 Form 10-K. NVIDIA / SEC. 查阅于 24 jul. 2026.
  10. AMD — FY2025 Form 10-K. AMD / SEC. 查阅于 24 jul. 2026.
  11. Arista Networks — FY2025 Form 10-K. Arista / SEC. 查阅于 24 jul. 2026.