【01】AI 数据中心的电,到底花在哪了?
Ola · 发布于 2026/10/7 · 更新于 2026/10/16
Ola2026/10/7
我的选题是:研究网络内计算与存算一体,减少数据传输、存储和处理中的能耗,探索钠电 AIDC 如何在相同能源约束下获得更多有效算力。
这是一个系统能量预算问题:总能量 E 是固定的,如何能把 E 里更大的一份变成有效算力。
AI数据中心的能耗如下图所示:
① 配电与转换损耗 :
电从市电进来到芯片的供电引脚之间,要过变压器、UPS、AC/DC、DC/DC 和板级配电,每一级都在发热。传统AC架构,市电进来 100 份,芯片真正拿到的大概 88 份。
② 冷却与热管理损耗:
PUE(电能使用效率):IT 设备每用 1 度电,整站要额外买 0.4–0.8 度电去散热。风冷 1.4–1.8,冷板 1.05–1.15,浸没 1.02–1.08。 热降频 pf(芯片过热保护限速):当温度过高,达到阈值,芯片会主动降频减少算力产出。
③ 数据搬运与网络往返损耗 :
电确实花在了芯片上,但花在"搬数据"而不是"算数据"上。 所以,我们研究的是: 同样一个电闸、同样一度电,怎么让它多产出算力?
一、从三个反常识说起
反常识 1:电不是花在"算"上,是花在"搬"上
想象你在厨房做菜。真正"切菜"这个动作很省力,费劲的是从冰箱把菜一趟趟搬到案板上。AI 芯片是一模一样的道理。以一个 45 纳米工艺下的实测数据为例:算一次加法只要 0.1 皮焦(1 皮焦 = 1 焦耳的万亿分之一),但从内存里取一个数要 640 皮焦——贵了 6400 倍。 AI 芯片的耗电大头,从来不是"计算",而是"把数据搬来搬去"。
反常识 2:建 AI 数据中心,最难的不是买卡,是接电
买显卡,下单、到货,几个月。但从电网申请一个大功率接入点,公开数据显示:研究流程平均要 3 年以上,部分地区接近 5 年;物理接入还要再等 2~4 年。而且只有不到 20% 的申请项目最终真的投运了。 结果是:你有钱买卡,但拿不到电。 这是今天 AI 基础设施最硬的墙。
反常识 3:就算接上了电,你也用不满
假设你拿到 100 兆瓦的并网容量,也买回了 100 兆瓦的服务器。 但因为 AI 的用电负荷波动极其剧烈(有厂商称"几十毫秒内幅度可达 70%"),为了不让瞬时尖峰把电网顶穿,运营方必须预留一大块功率余量。平均下来只能用掉 70.9 兆瓦。剩下 29.1 兆瓦的算力,卡就在机架上开不动。我们算了一下这笔账:这 29.1 兆瓦对应的沉没资本大约是 58 亿元。
二、概念和定义
1:"能源约束"是哪种约束?
| 约束类型 | 单位 | 现实来源 | 用什么破解 | 如果瓶颈是它,钠电池的处境 |
|---|---|---|---|---|
| 功率约束 | 兆瓦 (MW) | 并网容量、变压器 | 削峰填谷、储能 | ✅ 是核心武器 |
| 能量约束 | 兆瓦时 (MWh) | 电价、购电协议 | 提升能效 | ❌ 反而更费电(充放电有损耗) |
| 热约束 | 摄氏度 (°C) | 散热能力、进风温度上限 | 液冷、提高冷却温度 | ✅ 电池耐温窗口宽是优势 |
因为 能量 = 功率 × 时间,所以同一个负载,功率约束管它的瞬时高度,能量约束管它的累计面积。 功率约束像"水管的粗细",能量约束像"水池的大小"。水管太细,你水池再大也放不出水;水池太小,水管再粗也放不久。 由于电池本身不发电,它把尖峰削掉——负载瞬时冲高时让电池顶上,电网就不用按尖峰配容量。于是同样的并网容量能承载更多算力。但反过来:削峰只是把高度压下去,并没有让一天少用一度电——甚至因为充放电有损耗,用的电反而更多。 所以钠电的定位是: 不创造能量,只松弛功率约束。
2:什么是"有效算力"?
"有效算力"不是一个标准术语。至少有四种理解:
| 理解 | 问题在哪 |
|---|---|
| 芯片的峰值算力 | 那是理论值,跟实际产出没关系 |
| 每秒能生成多少字 | 不含能耗信息 |
| 每焦耳能生成多少字 | 只覆盖能量约束,忽略了功率和热 |
| 一天能产出多少可交付的算力 | ✅ 我们采用这个 |
这里我们把“有效算力”定义为:在给定的并网容量、电量预算、环境温度和服务质量承诺下,24 小时内能产出的有效字数(token)。
三、如何降低能耗?
基于这个框架,选题提到的技术不是三个并列的话题,而是同一个目标下的四个可调旋钮:
| 旋钮 | 通俗解释 | 作用在哪 |
|---|---|---|
| ① 存算一体 | 让数据在存储器里就地计算,不用搬出来 | 降低"搬权重"的能耗 |
| ② 网络内计算 | 让交换机先汇总再分发,而不是每台机器各算一遍 | 降低"跨机器通信"的能耗 |
| ③ 钠电池 | 做功率缓冲,让平均用电贴近上限 | 不降低每 token 能耗,而是提高算力可达上限 |
| ④ 提高冷却温度 | 让制冷系统在更高效的工况下工作 | 降低制冷损耗,等于放大可用算力 |
| 综上,我们将其写成一条等式: |
ECE(有效算力效率):每 MWh 电网电量能产出多少有效 token。单位:token/MWh。
四、参考文献
1)Horowitz, Computing's Energy Problem, ISSCC 2014(45nm 口径) https://pdfs.semanticscholar.org/9476/20a1854655ed91a86b90d12695e05be85983.pdf
2)LBNL(劳伦斯伯克利国家实验室)Queued Up 并网队列统计 https://emp.lbl.gov/queues
3) 数据中心的用电增长背景 LBNL, U.S. Data Center Energy Usage Report: 2025 Update:https://www.osti.gov/biblio/3374245
4) 海辰储能(HiTHIUM)官方发布(厂商口径,无独立实测) https://en.hithium.com/newsroom/latest/details/103
5)ASHRAE TC 9.9《Thermal Guidelines》第 5 版 (2021) https://www.ashrae.org/File%20Library/Technical%20Resources/Bookstore/Supplemental%20Files/Therm-Gdlns-5th-R-E-RefCard.pdf
6)Uptime Institute 全球数据中心调查 2024/2025: https://datacenter.uptimeinstitute.com/rs/711-RIA-145/images/2024.GlobalDataCenterSurvey.Report.pdf
7) CENT, ASPLOS'25, arXiv:2502.07578:https://arxiv.org/html/2502.07578v3 https://1836.online/_next/image?url=%2Fapi%2Fimages%2Fcmux56gzg00393kpmgw4q38iu&w=256&q=75
登录后可以留言
Ola2026/10/8 02:01:22
纠正等式:ECE = min( μ_cap × r_energy , K_batt ) × η_dist × (1/PUE) × pf × η_chip × α_cim × MFU × β_inc × (3.6e9 / E_token_ref) μ_cap:并网容量可达利用率,电池把它从 0.827 顶到 1.018(增益) K_batt:电池往返损失后的剩余能量比(损失) r_energy = 24·P_cap / E_budget:场景参数(容量-电量比),不是效率 min():这就是"电池把功率顶高之后,先撞到能量天花板"的数学表达