Green AI — 最好的节能,是不生成无用数据
这一章讲三件事: AI 的电费账单大到什么程度、钱烧在哪; 「像大脑一样只对事件计算」这条出路怎么走; 以及原书自己实验里那记 0% 的当头棒喝。 这是全书最后一章,也是原书第 5 章——标题里「数字节俭」四个字, 最后一节会给出它的字面答案。
1. 电费账单:钱烧在哪
先看总量。 原书给的两个参照:信息与通信技术(ICT,含手机、网络、数据中心) 2020 年消耗约 全球电力的 5%,预测 2030 年到 20%——原书的评语: 这个趋势不可持续1。5% 对 20%,六年翻四倍;对照另一个锚: 一台 2021 年的电动车电池约 52kWh,一台专业无人机的电池约 780Wh—— AI 基础设施正在和交通、航空抢同一张电网2。
再看烧在哪。 这一小节是全章的机制核心:冯·诺依曼架构 (存储与计算分开的经典计算机结构)的大头开销是「搬数据」—— 数据在内存和处理器之间来回搬运的能耗,远高于计算本身的能耗; 再叠加热耗散与访存速度的墙(行话叫冯·诺依曼瓶颈)3。
判断(我们的,不是书里的): 「搬比算贵」这一条,能直接解释前几章的 好几笔账:第 04 章把 99MB 模型压到 20MB,省的不只是存储,是每读一次权重的搬运费; 第 08 章「先理解再传」,省的是网络上的搬运;本章更进一步—— 让搬运根本不发生(存内计算、器件即突触)。三条战线打的是同一个敌人。 如果错,会错在: 如果某 类工作负载的计算密度极高、数据本地复用极好, 搬运占比可能不大(比如大规模矩阵乘在 GPU 上已优化到很深), 那「搬比算贵」对这些场景就不是主要矛盾。
2. 大脑只用 20W:另一条计算路
原书给的参照对象是一颗大脑:约 20W——不到一台台式电脑的照明灯泡, 却靠大规模并行(成千上万个部件同时干活)做着我们做不了的高层任务4。差距不是一点半点, 值得把两个数并排放:
| 人脑 | 一台 AI 服务器(机房里成排供电的计算机) | |
|---|---|---|
| 功耗 | 约 20W | 数百瓦到数千瓦 |
| 结构 | 大规模并行、存算一体(突触既是存储也是计算) | 冯·诺依曼:存储与计算分开,来回搬 |
| 空闲时 | 几乎不开销 | 照常供电 |
差距的来源就是第 1 节那一条:大脑的「突触」既是存储又是计算,没有搬运。 人工神经网络本身也在学这个形状——但它今天跑在冯·诺依曼机器上, 原书的评语是「先天就不高效」5。行业已经开动: IBM 的 TrueNorth、Google 的 TPU、Intel 的 Loihi 与 Myriad、Qualcomm 的 Zeroth ——一排专用神经网络处理器,都在往「学效率」这个方向压6; 而更彻底的一步棋是边缘计算:数据就地处理,原书把它叫 「外围智能是解决方案的心脏」——省时延,也省能耗7。
3. STDP:不靠标签的学习规则
「像大脑计算」的第一半:计算方式改成事件驱动。 脉冲神经元 (spiking neuron)平时静默,只在「事件」(电脉冲)到达时才动—— 没有事件,零开销。这在能耗上是釜底抽薪:计算量正比于事件量,而不是正比于时钟频率。
第二半:学习规则。 深度学习的学习靠反向传播(全局误差信号往回传), 要集中算力、要标签。脉冲网络用的是另一条路:STDP(脉冲时序依赖可塑性)—— 规则是局部的、无监督的,只看两个神经元的放电先后8:
突触前神经元在突触后神经元之前放电(「我先说,你后跟」)
→ 这条连接增强(它有先见之明,下次权重更高)
突触后神经元放电了,但前面没有对应的前端脉冲(「你乱说」)
→ 这条连接减弱
图说:判据只有一个——时间差。规则在每个突触就地执行,不需要任何全局信号。
原书把这页做了六张插图逐例演示——但六页文字只有相同的占位描述, 插图内容没有文字版;上面的增强/减弱规则,文字版依据的是后文 N-MNIST 实验页的明确表述(先有 pre 后有 post → 增强权重;只有 post → 减弱权重)9。
我们照实标注:STDP 在原书里是「图讲得比文多」的一个主题。
4. 忆阻器:器件本身就是突触
「像大脑计算」的另一半:让存储和计算在材料里合一。 传统做法里, 突触(权重)存在内存里,计算在处理器里做——又要搬运。 忆阻器(memristor,记忆+电阻)把两件事并成一个器件: 它是一只电阻,但阻值会记住流过它的历史——非易失(断电不忘)、 内在可塑(阻值连续可调),原书说它「表现得像生物突触」10。
更妙的是它可塑的方式:铁电忆阻器的阻值随施加事件的 幅度、次数、时长而变——「刺激越强/越频繁/越久,连接变得越强(或越弱)」, 这正是生物突触可塑性的配方11。于是 STDP 可以直接「翻译」成电路动作: 原书讲它变成脉冲电压依赖可塑性——两个脉冲的时序差变成电压波形的时间差, 材料自己完成权重更新;铁电忆阻器上的 STDP 行为已有实测12。
铁电:材料内部有可翻转、断电保持的电偶极子(第 05 章那只入耳机的 存储器用的也是铁电材料)。剩下的工程难点原书没瞒: 把忆阻突触塞进电路,电压电流的排布(怎么只让目标突触更新)是集成难题13。
第 3、4 两节合起来就是「神经形态计算」的骨架。我们书架上《神经网络与深度学习 (通识版)》的「钢与硅」一章给它的定位是「模仿大脑突触的脉冲式计算,极省电, 现阶段以研究与小众应用为主」——与本 章口径一致,可互为印证14。
5. 主走查:N-MNIST 上从 0% 到能认
现在看这条路真实的第一步,包括它摔的那一跤。 团队用的输入是事件相机 (Prophesee 出品):它不像普通相机按帧拍照,而是像素各自 report「我变亮了/变暗了」 的瞬间——好处原书列了三条:高时间精度、高动态范围、内在的数据压缩 (没变化的像素一个事件都不发)15。ULPEC 项目(欧盟 H2020, 铁电技术+神经形态计算的智能传感器)的目标就是把忆阻器、CMOS 传感器、 脉冲网络集成成一个超低功耗的边缘系统16。
实验设计(原书实验页,数字齐全):拿事件相机去看 MNIST 手写数字 (数据集叫 N-MNIST)——相机以约 100 毫秒的扫视扫过数字,数字的边缘在 视网膜上划过,产生事件流;学习规则用 STDP,窗口 10µs(微秒,由模拟电路设计决定): 窗口内先 pre 后 post → 增强权重;只有 post → 减弱权重17。
结果:天真场景下识别率 0%。 原文的评语很直白:「太天真:0% 识别率 ——事件不够学习用」17。100 毫秒的扫视产生的有效事件,喂不饱 10µs 窗口的 严格时序规则——大部分突触一次「合法的先来后到」都没等到。
主走查:同一条链上的两次迭代
第 1 版:100ms 扫视事件 → 10µs STDP 窗 → 天真规则 → 识别率 0%[^17]
第 2 版:新学习规则(把事件时序纳入考虑,不再死守严格先后) → 识别率起效[^18]
第 3 版:再调增强/抑制参数(两者必须平衡,否则权重单边漂) → 继续改善[^19]
图说:三步都在「规则」层,器件没换——神经形态的第一课:
生物启发 ≠ 生物照抄,规则要为电路的现实让路。
这一跤为什么值得原书当众讲: 它是全书最诚实的一页,也是 「实验室 → 工业产品」距离的实测。同一份材料的结论页说得更清楚: 事件驱动计算是好候选(主要面向边缘计算),「离工业产品还有很长的路, 然而这正是研究存在的意义」18。
6. 结论与冷水:数字节俭的字面答案
原书的结论页给了四句话,值得原样排开18:
- 要在「大幻灭」之前解决 AI 的能耗可持续性;
- 事件驱动(神经形态)计算是好候选——主要在边缘计算一侧;
- CMOS 不会够用:非传统纳电子(忆阻器这一类)很可能在 Green AI 里担纲;
- 距离工业产品还很远——「然而这就是研究的目的」。
然后是全书的最后一句话,也是「数字节俭」四个字的字面答案:
最好的节能,是不生成无用数据。
注意这句话把全书的两条线拧在了一起:第 08 章「先理解再传」省的是通信侧的 无用数据;本章「事件相机只发变化」省的是感知侧的无用数据—— 节能的第一性原理不是把电路做得更省,而是让无用的比特根本不诞生。
判断(我们的,不是书里的): 这句话是全书最值得带走的一句, 但也要给它标上边界:它来自一场以「非传统硬件」为业的暑期学校 (编者就是忆阻器、自旋电子项目的负责人),「CMOS 不会够用」是利益相关方的判断。 CMOS 阵营(专用处理器、稀疏(绝大多数连接是零、可以直接跳过不算)计算、量化)这几年并没有停步——两条路线 谁担纲,书中没有给、行业也还没有裁决。 如果错,会错在: 如果 CMOS 工艺继续靠架构创新(稀疏计算、近存计算) 把能效再压一个数量级,「非传统纳电子担纲」的时点会一再推迟—— 而推迟本身不推翻方向,只推翻紧迫性。
7. 可带走的
- 账单:ICT 用电 2020 约 5% → 2030 预测 20%;冯·诺依曼机器的大头开销是搬数据,不是算;
- 参照对象是大脑:约 20W 做高层任务;差距的机制根源=突触存算一体、没有搬运;
- 事件驱动计算:脉冲神经元只在事件到达时才耗电,计算量正比于事件量;
- STDP:只看两个神经元放电先后(先 pre 后 post 增强,只有 post 减弱)——局部、无监督、无全局信号;
- 忆阻器=会记忆的电阻:阻值随事件幅度/次数/时长变,STDP 可以直接翻译成电压时序让材料自己学习;
- 主走查的教训:事件相机+N-MNIST+天真 STDP = 0% 识别率(事件不够),改规则、平衡参数才起效——生物启发不是生物照抄;
- 原书的四句结论:大幻灭前解决能耗;事件计算面向边缘;CMOS 不够、非传统纳电子担纲(利益相关方判断,打折扣听);离产品还远;
- 全书最后一句:最好的节能,是不生成无用数据——通信侧(第 08 章)与感知侧在这里汇合。
8. 原文地图
| 主题 | 原书章 | 原文位置 |
|---|---|---|
| ICT 5%→20% | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:37(搜「5% of the world」) |
| 电池参照(Zoe/无人机) | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:31(搜「Renault Zoe」) |
| 冯·诺依曼瓶颈与搬数据 | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:42(搜「Von Neumann」) |
| 大脑 20W | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:48(搜「~20W」) |
| ANN 跑在冯·诺依曼机上 | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:53(搜「Von Neumann computers」) |
| 专用处理器清单 | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:58(搜「TrueNorth」) |
| 边缘计算主张 | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:62(搜「edge computing」) |
| 脉冲神经元 | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:80(搜「spiking neurons」) |
| STDP 规则 | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:84(搜「Spike Timing Dependent」) |
| CMOS 神经形态、突触占面积 | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:116(搜「synapses」) |
| 忆阻器三性质 | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:122(搜「non-volatile」) |
| 阻值随幅度/次数/时长 | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:127(搜「amplitude, number」) |
| STDP→电压依赖可塑性 | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:131(搜「Spike Voltage Dependent」) |
| 驱动忆阻突触的难题 | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:138(搜「Drive a Memristive」) |
| MNIST 概念验证 | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:144(搜「MNIST」) |
| 事件相机三优点 | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:154(搜「Prophesee」) |
| ULPEC 集成目标 | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:70(搜「ULPEC」) |
| N-MNIST 实验、10µs、0% | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:177(搜「10µs」) |
| 新学习规则 | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:186(搜「New Learning Rules」) |
| 参数平衡 | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:192(搜「potentiation and depression」) |
| 结论四句与无用数据 | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:205(搜「useless data」) |
| NCT 增长 | Green AI: Digital Frugality | text/10-ch05-chapter-5-green-ai-digital-frugality.txt:210(搜「NCT is Growing」) |