跳到主要内容

学科自省与大历史 — 教科书、三派、算力文明与 O 点

这一章讲三件事: 一门学科怎么用教科书记录自己(拿《人工智能:现代方法》 四个版本当时间线走一遍,章节增删就是 AI 六十年的编年史);作者的大历史观—— 从大脑神经元到全社会算力,四条增长曲线的排序,以及摩尔/库米定律放缓之后 那个被他命名为"O 点"的文明到期日;最后是作者给整个学科的三分法判决: 逻辑主义、连接主义、自然主义,和那句"AI 的核心问题正在被归约到几个理论问题"。 读完这一章,前十一章的所有线索都会被收进一张图。

1. 这一章讲什么​

原书第 14、15、16 章是三次"拉远镜头":教科书(十年尺度)、智能的进化 (文明尺度)、总结(学科尺度)。我们把它们合为一章,因为它们共享同一个动作—— 给一个正在暴涨的对象找参照物:教科书给学科找参照,能耗给文明找参照, 三派分类给争论找参照。

本章也是全书的"判词集中营"——作者最锋利的几句总结都在这里。

2. 顶层全景​

  【十年尺度】教科书 = 学科的年轮
    尼尔森 5 本书:从神经网络起,到机器学习终
    AIMA 四版:1995 无神经网络 → 2003 有 RL 无 NN → 2020 加深度学习章
      ↓
  【文明尺度】四条增长曲线(由慢到快):
    大脑神经元 < 能源消耗 < 学术出版物 < 算力 ≈ AI 融资
      ↓
  算力引擎的两个定律都在放缓:
    摩尔:1965 每年翻倍 → 1975 每两年 → 2024 约每四年
    库米:每 1.57 年 → 每 3-4 年
      ↓
  兰道尔极限(能效的物理天花板):
    距离约 6 个数量级(2018 年估计)→ O 点估计在 2080 年之后
      ↓
  推论:Scaling Law 是摩尔+库米的自然结果 → O 点之后失效
      ↓
  【学科尺度】三大流派:逻辑主义 / 连接主义 / 自然主义
    终审判决:"人工智能的核心问题正在被归约到几个理论
    (计算理论和学习理论)问题"

  图说:三层拉远共用一个主走查(第 3.1 节的 AIMA 版本年轮)。
  数字的主表在第 3.5 节(两个定律的放缓速率)。

3. 核心原理​

3.1 主走查:拿一本教科书的版次当学科编年史​

教科书解决的问题是:一门学科每过十年,什么值得留下来教给下一代。 它的每次改版,都是对"什么才算这个学科"的重新划界。原书选了最权威的一条时间线: 罗素与诺维格的《人工智能:现代方法》(AIMA),全球 1500 多所学校采用, 第二作者诺维格自称用它教了 16 万名学生1。

  版本     年份    关键增删(按原书)
  第1版    1995    几乎没有神经网络的内容
  第2版    2003    仍无神经网络;但增加"强化学习"一章
                   (含那句名言:"可以认为强化学习包含了全部人工智能")
  第3版    2010    深度学习已遍地开花,结构改动不大
  第4版    2020    新增"深度学习"一章;
                   "自然语言处理"之后新增"自然语言处理中的深度学习"
                   (专讲大模型相关基础);
                   机器人学加"强化学习"一节;对抗搜索加"蒙特卡洛树搜索"
                   (AlphaGo 的影响);规划两章并一章;概率推理两章变三章

  图说:1995-2020 二十五年,神经网络从"不存在"到"专章再专章"。
  对照物:全书 1100 多页,比瑞奇的教科书厚一倍多;
  约 600 页传统内容 + 不足 200 页概率推理 + 约 220 页深度学习与强化学习
  + 40 页哲学与未来。

1

更完整的编年史是一个人:尼尔森。他的五本书正好覆盖学科一整圈——1965《学习机》 (神经网络最早教科书之一)→ 1971(符号派)→ 1980《人工智能原理》 (标准教科书,只字未提机器学习)→ 1987《逻辑基础》→ 未完成的机器学习书稿 (两章强化学习)。原书的判语:"几本书既映射了尼尔森的职业生涯,也见证了人工智能 学科的变迁:从机器学习起,到机器学习终。"2

教科书学的还有一条潜规则:重要进展进教科书要 3-5 年;而 AI 教科书的特殊困境是 "学科还在发展,我们甚至不敢肯定现在书中的内容将来还会归属同一学科"3。 最扎的一根刺:AIMA 只字不提语义网——因为诺维格 2006 年在 AAAI 上当众批评过 伯纳斯-李。教科书不是中立的,教科书有作者的品味。

3.2 学科的病根:缺第一性原理​

原书对 AI 教科书的病理诊断,是第 12 章前的总铺垫:"人工智能教科书的编写体例 需要新的思维,可能需要加些理论基础作为黏合剂……人工智能教科书缺乏第一性原理, 即计算理论,这也使得人工智能的内容给人以飘忽不定的感觉"4。

证据链:深度学习和强化学习的从业者中,电子工程背景的人不少于计算机科学的, 而前者几乎不熟悉计算理论,甚至不知道丘奇-图灵论题4。AIMA 最后一章的 经济学词汇其实暗藏对应物:新古典经济学的"完美理性"对"计算理性" (=可计算性),司马贺的"边界理性"对"有界优化"(=计算复杂性)5。 原书的处方:智能体(AI 里的行动主体)参照图灵机,像经济学以"理性人"为公理那样。

还有一个学科史的观察:AI 教科书"板块之间并没有逻辑的关系,把所有内容丢到一个 大桶里"——物理学教科书(费曼讲义 1500 多页、哈里德-瑞思尼克出到第 12 版)之所以 能厚而稳,是因为学科已成稳态。AI 是否也会像物理学一样,在教科书厚得没法用之前 被一分为二或三?——原书把这个当开放问题6。

3.3 作者的判决:三大流派​

第 16 章是作者的分类学陈述。他把 AI 分为三派7,并逐一对照哲学传统:

流派别名哲学对应组织隐喻叙事视角
逻辑主义规则派理性主义计划经济第三人称全知(可解释)
连接主义统计派/深度学习派经验主义自由市场经济第一人称(不可解释)
自然主义——进化论/涌现(整体大于部分之和)————

原书特意解释了为什么拒绝"行为主义"这个词:机器人学没有统一的理论基础, 核心困难多是机械与材料工程问题,"凡'主义'都要有理论基础"7。

本章还有全书最漂亮的一组机制对照,值得原文级别地保留:"所谓深度学习不过是 神经网络的层数多一些而已……从并行性意义上说,所有基于神经网络的模型都是宽的 而不是深的,无论网络有多少层。定理证明是深的,很难并行化。也恰是因此, 定理证明可以解释,而神经网络不可解释。"8

这段话把可解释性问题归结为一个计算结构问题:宽(并行、海量简单单元)与深 (串行、长推理链)。 宽模型的可解释性差不是态度问题,是结构宿命—— 与第 10 章"最优压缩不可解释"(蔡汀)从两个方向撞出同一个结论。

三派融合的现状与终审判决:深度学习+强化学习=深度强化学习;强化学习做定理证明 (o1/R1 一类推理模型);"人工智能的核心问题正在被归约到几个理论(计算理论和 学习理论)问题"9——这句是全书最后的落点,也是第 09、10 章存在的理由。

3.4 文明的测度:四条曲线的排序​

拉远到文明尺度,原书(呼应乌镇智库的数据工作)给了一组测量框架,每换一个时间 尺度换一把尺子10:

尺度测度关键数字
十万年(物种)大脑皮层神经元人脑 860 亿(皮层 160 亿);大象 2570 亿但 98% 在小脑,皮层仅 56 亿;人脑能耗占全身 25%
万年(文明)能源获取莫里斯《西方将主宰多久》:除公元 6-18 世纪中叶,西方一直领先
百年/千年信息处理印刷与学术出版物:出版物增速远超能耗增速
几十年全社会算力=设备数量 × 单机能力,两条指数曲线的叠加

大脑数字的出处值得记:巴西神经科学家埃尔库拉诺-乌泽尔的"大脑汤"方法—— 她发现"人脑有 1000 亿神经元"这个教科书数字是以讹传讹,没有实验依据, 于是自己动手测,得出 860 亿(皮层 160 亿)11。"某些重要的科学问题 貌似平常,科学家们常想当然地认为一定有其他人早就做过研究"——测量先于理论, 又一次。

四条曲线的增速排序(原书给的判断):能源消耗比神经元数量增长快,学术出版物 比能耗快,AI 融资与算力相当、高于其余一切12。参照物只有排在后面的量: 算力增速甩开大脑进化(20 年一代人),这就是"机器进化快过人"的定量版本。

3.5 两个定律的放缓与"O 点"​

算力引擎上拧着两个定律,原书给出了各自的放缓曲线13:

定律原始预测最新观察(截至 2024)
摩尔定律1965 年版:性能每年翻倍;1975 年修正:每两年约每 4 年翻倍(年增不到 20%)
库米定律(同功耗下性能)每 1.57 年翻倍约每 3-4 年翻倍

放缓的物理原因原书交代得清楚:芯片功耗 P=fCV²,邓纳德缩放(每代频率提升 40%) 自 2006 年起逐渐失效,热失控逼着行业转向多核并行——但多核不能线性提升性能, 而且"scale out 带来的能耗增长要快于性能增长"14。

再往下是物理天花板:兰道尔极限(信息操作的能耗下限)。2018 年的研究估计, 当时距兰道尔极限还有约 6 个数量级——"差不多等于原始摩尔定律的 20-30 年"; 把放缓后的曲线拟合进去,O 点(碰到兰道尔极限的时刻)差不多在 2080 年之后; 2050 到 2080 年间,技术进步的速度将极其缓慢,直到完全停滞15。

"O 点"(遗忘点)是作者自造的词,出处是本内特 1982 年的物理结论: 消耗能量的是信息的擦除而不是测量或修改;命名借博尔赫斯的诗"只有一件事要紧, 那就是遗忘"(oblivion 一词兼有擦除、遗忘、湮灭、宽恕的多重含义)16。 注意:这是作者的自造概念,不是学界术语;但它的物理底座(兰道尔极限、 本内特结论)是硬的。

由此得到对 Scaling Law 的判决(回收第 05 章的伏笔):Scaling Law 是摩尔定律 与库米定律的自然结果;O 点之后两定律失效,Scaling Law 也失效——之后算力只能 横向扩展(scale out),不能纵向提升17。还有一组算力大国的数字: 至 2030 年,美国算力的能源需求或使其能源消耗增长 2-4 倍;科技公司正布局小型 模块化核反应堆(SMR)自救18。

原书最后留了一个文学性的问题:"不知道是奇点先来还是 O 点先来?也许 O 点先来 是更人道的。"19——奇点(智能爆炸)与 O 点(能效到期)赛跑,这是全书 最冷峻的一句。

3.6 超级智能之辩:谁在认真说话​

围绕"会不会有一个新物种在智能上全面超越人类",原书清点了各方立场,并逐一给出 作者式评价20:

  • 博斯特罗姆(牛津,2014《超级智能》)、霍金、马斯克:警告派;
  • 赫拉利(《未来简史》,"神人"概念):原书毒评其为"人工智能界安插在人文学科里 的托儿"——这是全书攻击性最强的段落,显然是论战而非学术评价;
  • 古德(图灵的布莱彻利同事):1960 年代已提出"智能爆炸"——概念的真正出处;
  • 多明戈斯(《终极算法》):统一五类算法(进化的、连接主义的、符号的、 贝叶斯的、类比的)——原书指出单子里明显漏了强化学习;
  • 维纳:"我们最好能够确认我们给机器设定的目的确实是我们想要的"; 罗素:价值观对齐(把机器的目标调到与人一致)问题——原书问:这是计算理论问题还是道德问题?
  • 2023 年 3 月 FLI 暂停公开信:三万多人签名(本吉奥、罗素、马斯克、沃兹尼亚克), 辛顿没签——他赞同思路,但认为"暂停"行不通21。

原书自己的立场藏在一个对照里:"核武器不过是毁灭人类,但人工智能会生成新的物种" ——唯物的核与唯心的 AI,威胁的排序翻转了22。

4. 作者的判断与证据​

史实层:AIMA 各版增删、尼尔森书目、"大脑汤"的 860 亿/160 亿/56 亿、 摩尔与库米的放缓数据、2018 年距兰道尔极限 6 个数量级的估计、FLI 信的签名情况, 均有来源(原书附了文献与数据图)。

作者观点层(要分开):

  • "尼克定律"(统一刻画摩尔与库米的放缓)与"O 点/遗忘点"都是作者自造词, 前者他署了名(Zhang, 2022)13;引用时必须说明这是作者的概念;
  • 三派分类学是作者的个人框架,他自己声明与"规则/神经网络/行为主义"的常见分法 不同7;
  • 对赫拉利、博斯特罗姆的贬低("论述既无深度也无趣")是书评式攻讦23, 与第 15 章正文的中性介绍并存——原书自己就是两种笔调;
  • "教科书使我们会遗忘很多为这门学科做出贡献的人"(欧几里得的定理原创者无人记得; NP 完全性大家从加雷-约翰逊的教科书学的,不是库克 1971 的论文)是作者的学科史 观察24。

原书标注存疑处:莫里斯的西方定义(欧美加中东)受杜彻斯内批评,原书照录两方25; "日本学者称若有今天的语义网和知识图谱大数据,五代机结局会很不同"被原书驳回 ("历史没法马后炮"),此处再次照录26。

5. 边界与局限​

  • O 点的时间估计(2080 年后)依赖外推:2018 年"6 个数量级"的估计 + 放缓曲线 的拟合都是模型;兰道尔极限是物理下限,但"碰到"的定义(整机还是单操作)并不严格。
  • 教科书扫描截至 2020 年(AIMA 第 4 版):2023 年后大模型对课程的冲击 (原书第 14 章末尾自己承认"教科书该怎么写呢"是未解问题)27。
  • 三派分类对大模型时代的适用性:作者的"自然主义"主要指遗传算法与强化学习, 而今天"自然主义"常被用于具身智能(给机器装上身体去感知)的话语——术语在漂移。

至于"世界模型"(想在机器内部重建物理环境),原书对它的态度见第 05、08 章。

  • 本章不含对具体预测的验证机制:超级智能、核聚变、SMR 量产(原书的预期:2026 年开始量产)都是时间敏感内容,读时须按当前日期折旧。

6. 可带走的​

  1. 教科书是学科的年轮:判断一个领域的真实边界,别读宣言,读最通行教材的 目录变化——AIMA 二十五年从"无神经网络"到"专章再专章";
  2. "从机器学习起,到机器学习终"(尼尔森五本书):学科绕了一圈, 起点变成了终点;
  3. 重要进展进教科书需要 3-5 年;教科书有作者的品味(AIMA 不收语义网)—— 引用"教科书没提 X"当论据前,先查恩怨史;
  4. AI 教科书的病根是缺第一性原理:计算理论应该当黏合剂;"计算理性" 对可计算性、"有界优化"对计算复杂性的对应表值得一记;
  5. 三派对照表(逻辑主义/连接主义/自然主义 × 理性/经验 × 计划经济/市场经济 × 第三人称/第一人称):给任何 AI 争论快速定位的坐标系;
  6. "宽模型不可解释,深模型可解释":可解释性是并行结构的函数—— 与"最优压缩不可解释"互为表里;
  7. 四条文明曲线的排序(神经元<能耗<出版物<算力):任何关于"机器超过人" 的讨论,先确认用的哪条曲线、参照物是什么;
  8. 摩尔与库米都放缓了(四年翻倍/3-4 年翻倍),Scaling Law 的物理地基 有到期日;O 点(2080 年后的估计)是作者的自造概念,物理底座(兰道尔极限) 是硬的;
  9. "奇点先来还是 O 点先来":智能爆炸与能效墙的赛跑——把两个未来学概念 换算成同一条能源曲线,是这本书留给决策者的最后一题;
  10. 终审判决:AI 的核心问题正在归约为计算理论与学习理论——前十章是证词, 这一章是判决书。

7. 原文地图​

主题原书章原文位置
尼尔森五本书与"从机器学习起到终"第14章 从教科书看人工智能学科变迁text/18-ch14.txt:8(搜「尼尔森」) · text/18-ch14.txt:44(搜「从机器学习起」)
1980 原理只字未提机器学习第14章 从教科书看人工智能学科变迁text/18-ch14.txt:20(搜「字未提机器学习」)
AIMA 地位、16 万学生、1100 页第14章 从教科书看人工智能学科变迁text/18-ch14.txt:103(搜「1500多所学校」) · text/18-ch14.txt:104(搜「16万」) · text/18-ch14.txt:105(搜「1100多页」)
AIMA 四版增删第14章 从教科书看人工智能学科变迁text/18-ch14.txt:56(搜「第1版」) · text/18-ch14.txt:109(搜「强化学习」) · text/18-ch14.txt:112(搜「第4版」) · text/18-ch14.txt:116(搜「受到了AlphaGo的影响」)
RL 包含全部 AI第14章 从教科书看人工智能学科变迁text/18-ch14.txt:111(搜「encompass」)
3-5 年进教科书、教科书有品味第14章 从教科书看人工智能学科变迁text/18-ch14.txt:157(搜「出现在教科书」) · text/18-ch14.txt:158(搜「语义网」)
大桶与一分为二第14章 从教科书看人工智能学科变迁text/18-ch14.txt:162(搜「大桶」) · text/18-ch14.txt:164(搜「一分为二」)
缺第一性原理、EE 不知丘奇-图灵第14章 从教科书看人工智能学科变迁text/18-ch14.txt:170(搜「黏合剂」) · text/18-ch14.txt:175(搜「甚至不知道」) · text/18-ch14.txt:184(搜「飘忽不定」)
计算理性与有界优化第14章 从教科书看人工智能学科变迁text/18-ch14.txt:178(搜「计算理性」) · text/18-ch14.txt:180(搜「有界优化」)
人工智能手册 4 页神经网络第14章 从教科书看人工智能学科变迁text/18-ch14.txt:186(搜「手册」) · text/18-ch14.txt:195(搜「4页」)
教科书使人遗忘、加雷约翰逊第14章 从教科书看人工智能学科变迁text/18-ch14.txt:220(搜「做出贡献的人」) · text/18-ch14.txt:222(搜「库克」) · text/18-ch14.txt:224(搜「人手一册」)
大脑汤、860 亿/160 亿第15章 智能的进化text/19-ch15.txt:14(搜「埃尔库拉诺-乌泽尔」) · text/19-ch15.txt:14(搜「以讹传讹」) · text/19-ch15.txt:31(搜「860亿」)
大象 2570 亿、56 亿、25% 能耗第15章 智能的进化text/19-ch15.txt:33(搜「2570亿」) · text/19-ch15.txt:34(搜「56亿」) · text/19-ch15.txt:36(搜「25%」)
烹饪假说第15章 智能的进化text/19-ch15.txt:37(搜「摄入大量能量」)
莫里斯能耗测文明、李约瑟第15章 智能的进化text/19-ch15.txt:46(搜「莫里斯」) · text/19-ch15.txt:52(搜「李约瑟」)
印刷与出版物增速、算力叠加第15章 智能的进化text/19-ch15.txt:85(搜「印刷」) · text/19-ch15.txt:89(搜「增速」) · text/19-ch15.txt:100(搜「指数级增加」) · text/19-ch15.txt:102(搜「乘积」)
摩尔修正、2024 观察四年翻倍第15章 智能的进化text/19-ch15.txt:114(搜「1965年」) · text/19-ch15.txt:115(搜「4年」)
P=fCV²、邓纳德失效、多核第15章 智能的进化text/19-ch15.txt:117(搜「P fCV」) · text/19-ch15.txt:120(搜「40%」) · text/19-ch15.txt:120(搜「热失控」)
库米定律 1.57 → 3-4 年、尼克定律第15章 智能的进化text/19-ch15.txt:122(搜「库米」) · text/19-ch15.txt:127(搜「1.57」) · text/19-ch15.txt:129(搜「尼克定律」)
兰道尔极限与 O 点、6 个数量级第15章 智能的进化text/19-ch15.txt:134(搜「兰道尔」) · text/19-ch15.txt:136(搜「6个数量级」) · text/19-ch15.txt:137(搜「2050」) · text/19-ch15.txt:140(搜「2080」)
Scaling Law 失效、scale out第15章 智能的进化text/19-ch15.txt:142(搜「Scaling Law」) · text/19-ch15.txt:144(搜「scale out」) · text/19-ch15.txt:151(搜「能耗增长要快于」)
2030 美国能耗 2-4 倍、SMR第15章 智能的进化text/19-ch15.txt:154(搜「2」) · text/19-ch15.txt:158(搜「SMR」)
两次高潮与包装判词第15章 智能的进化text/19-ch15.txt:173(搜「两次高潮」) · text/19-ch15.txt:244(搜「旧哲学思想」) · text/19-ch15.txt:245(搜「承诺不能兑现」)
博斯特罗姆、赫拉利、古德第15章 智能的进化text/19-ch15.txt:190(搜「博斯特罗姆」) · text/19-ch15.txt:200(搜「神人」) · text/19-ch15.txt:278(搜「古德」)
多明戈斯五类、漏了强化学习第15章 智能的进化text/19-ch15.txt:230(搜「多明戈斯」) · text/19-ch15.txt:232(搜「5类」) · text/19-ch15.txt:235(搜「明显缺失」)
维纳目的、罗素价值观对齐第15章 智能的进化text/19-ch15.txt:290(搜「目的」) · text/19-ch15.txt:295(搜「价值观对齐」)
FLI 公开信、辛顿没签第15章 智能的进化text/19-ch15.txt:299(搜「公开信」) · text/19-ch15.txt:307(搜「暂停」)
核武器与 AI 之比第15章 智能的进化text/19-ch15.txt:313(搜「核武器」) · text/19-ch15.txt:315(搜「新的物种」)
本内特擦除、遗忘点命名第15章 智能的进化text/19-ch15.txt:318(搜「擦除」) · text/19-ch15.txt:321(搜「遗忘」) · text/19-ch15.txt:321(搜「oblivion」)
奇点对 O 点第15章 智能的进化text/19-ch15.txt:327(搜「奇点」) · text/19-ch15.txt:331(搜「更人道」)
三分法与行为主义拒绝第16章 总结text/20-ch16.txt:10(搜「三分法」) · text/20-ch16.txt:16(搜「行为主义」) · text/20-ch16.txt:26(搜「理论基础」)
计划经济/市场经济、第一/第三人称第16章 总结text/20-ch16.txt:29(搜「计划经济」) · text/20-ch16.txt:31(搜「人称写作」)
宽与深、可解释性第16章 总结text/20-ch16.txt:42(搜「宽的」) · text/20-ch16.txt:43(搜「深的」) · text/20-ch16.txt:31(搜「不可解释」)
三派源头与融合、终审判决第16章 总结text/20-ch16.txt:46(搜「定理证明」) · text/20-ch16.txt:50(搜「广义学习的框架」) · text/20-ch16.txt:63(搜「融合」) · text/20-ch16.txt:67(搜「几个理论」)
三张谱系图第16章 总结text/20-ch16.txt:69(搜「3张图」) · text/20-ch16.txt:73(搜「逻辑主义」)

Footnotes​

  1. 出处:「第14章 从教科书看人工智能学科变迁」第 103 段(text/18-ch14.txt:103,搜「1500多所学校」)、第 104 段(搜「16万」)、第 105 段(搜「1100多页」)、第 107-116 段(搜「第1版」)。AIMA 版本增删表为原文逐条转写。 ↩ ↩2

  2. 出处:「第14章 从教科书看人工智能学科变迁」第 8 段(text/18-ch14.txt:8,搜「尼尔森」)与第 44 段(搜「从机器学习起」)、第 17 段(搜「只字未提」)。 ↩

  3. 出处:「第14章 从教科书看人工智能学科变迁」第 157 段(text/18-ch14.txt:157,搜「出现在教科书」)与第 154 段(搜「同一学科」)、第 158 段(搜「语义网」)。 ↩

  4. 出处:「第14章 从教科书看人工智能学科变迁」第 170 段(text/18-ch14.txt:170,搜「黏合剂」)、第 175 段(搜「丘奇-图灵论题」)、第 184 段(搜「飘忽不定」)。 ↩ ↩2

  5. 出处:「第14章 从教科书看人工智能学科变迁」第 178 段(text/18-ch14.txt:178,搜「计算理性」)与第 180 段(搜「有界优化」)。 ↩

  6. 出处:「第14章 从教科书看人工智能学科变迁」第 162 段(text/18-ch14.txt:162,搜「大桶」)与第 133 段(搜「费曼」)、第 164 段(搜「一分为二」)。 ↩

  7. 出处:「第16章 总结」第 10 段(text/20-ch16.txt:10,搜「三分法」)、第 16 段(搜「行为主义」)、第 26 段(搜「理论基础」)。 ↩ ↩2 ↩3

  8. 出处:「第16章 总结」第 41-44 段(text/20-ch16.txt:42,搜「宽的」)。原文:"所有基于神经网络的模型都是宽的而不是深的,无论网络有多少层。定理证明是深的,很难并行化。也恰是因此,定理证明可以解释,而神经网络不可解释"。 ↩

  9. 出处:「第16章 总结」第 63 段(text/20-ch16.txt:63,搜「融合」)与第 67 段(搜「归约」)。 ↩

  10. 出处:「第15章 智能的进化」第 79-104 段(text/19-ch15.txt:25,搜「大脑汤」之外的第 79-104 段各节;测度框架见第 79 段「算力作为文明的测度」)。表格为原文要点转写。 ↩

  11. 出处:「第15章 智能的进化」第 14 段(text/19-ch15.txt:14,搜「埃尔库拉诺-乌泽尔」)、第 16 段(搜「以讹传讹」)、第 31 段(搜「860亿」)。 ↩

  12. 出处:「第15章 智能的进化」第 182-188 段(text/19-ch15.txt:183,搜「能源消耗的增长速度」)。 ↩

  13. 出处:「第15章 智能的进化」第 114-115 段(text/19-ch15.txt:114,搜「1965年」)、第 124 段(搜「库米」)、第 127 段(搜「1.57」)、第 129 段(搜「尼克定律」)。原文:"对于摩尔定律和库米定律这种逐年放缓的现象,我统一用'尼克定律'刻画(Zhang,2022)"。 ↩ ↩2

  14. 出处:「第15章 智能的进化」第 117 段(text/19-ch15.txt:117,搜「P fCV」)、第 120 段(搜「40%」)、第 121 段(搜「热失控」)、第 150 段(搜「能耗增长要快于」)。 ↩

  15. 出处:「第15章 智能的进化」第 134 段(text/19-ch15.txt:134,搜「兰道尔」)、第 136 段(搜「6个数量级」)、第 138 段(搜「2050」)、第 141 段(搜「2080」)。 ↩

  16. 出处:「第15章 智能的进化」第 318 段(text/19-ch15.txt:318,搜「擦除」)、第 321 段(搜「遗忘」)、第 324 段(搜「oblivion」)。 ↩

  17. 出处:「第15章 智能的进化」第 142 段(text/19-ch15.txt:142,搜「Scaling Law」)与第 144 段(搜「scale out」)。 ↩

  18. 出处:「第15章 智能的进化」第 154 段(text/19-ch15.txt:154,搜「能源消耗增长」)与第 157 段(搜「SMR」)。 ↩

  19. 出处:「第15章 智能的进化」第 327 段(text/19-ch15.txt:327,搜「奇点」)与第 331 段(搜「更人道」)。 ↩

  20. 出处:「第15章 智能的进化」第 190 段(text/19-ch15.txt:190,搜「博斯特罗姆」)、第 199 段(搜「神人」)、第 278 段(搜「古德」)、第 230 段(搜「多明戈斯」)、第 237 段(搜「强化学习」)、第 290 段(搜「目的」)、第 295 段(搜「价值观对齐」)。 ↩

  21. 出处:「第15章 智能的进化」第 299 段(text/19-ch15.txt:299,搜「公开信」)与第 307 段(搜「暂停」)。 ↩

  22. 出处:「第15章 智能的进化」第 313 段(text/19-ch15.txt:313,搜「核武器」)与第 315 段(搜「新的物种」)。 ↩

  23. 出处:「第15章 智能的进化」第 343 段(text/19-ch15.txt:343,搜「无深度」)。 ↩

  24. 出处:「第14章 从教科书看人工智能学科变迁」第 220 段(text/18-ch14.txt:220,搜「做出贡献的人」)与第 222 段(搜「库克」)。 ↩

  25. 出处:「第15章 智能的进化」第 59 段(text/19-ch15.txt:59,搜「杜彻斯内」)与第 62 段(搜「亨廷顿」)。 ↩

  26. 出处:「第4章 第五代计算机的教训」第 387 段(text/08-ch04.txt:387,搜「马后炮」)。 ↩

  27. 出处:「第14章 从教科书看人工智能学科变迁」第 132 段(text/18-ch14.txt:132,搜「教科书该怎么写」)。 ↩