大脑 — 机器智能凭什么不同
这一章讲三件事: 机器的「聪明」和普通软件的「能干」差在哪;为什么连造它的人都说不清它内部在干什么;以及它和人脑的差距被书拆成了哪几个量得出来的方面。 它在全书链条里的位置:第 01 章确立了「AI 是终极探索者」,这一章回答「这个探索者的脑子跟我们的差在哪」——差在哪,决定后面六章要担心什么。 遇到的生词全部当场解释,先解释再使用。
1. 先把类比清场
这一节只做一件事:否掉你听过的那些类比,看作者到底主张什么。
AI 出现后,各行业都拿自己熟悉的东西来类比它:人类学家说它像火或电,将军和外交官说它像原子能,天文学家说它像小行星撞击,经济学家说它像官僚机构和市场,还有人拿它比印刷机、比当年悄悄占领了南亚的公司1。
书里把这些类比全部推到一边。作者的主张是:任何创新,无论多深刻,「都无法与我们在构建智能时追求的最初灵感……——创造比地球上任何人类都更为强大的智能——相提并论」2。
为什么别的类比都不够格?书里给了两条考量。第一条:此前所有变革性技术放大的是人的身体——轮子省脚力、发动机省肌力、X 射线和放大镜拓展视力、电话放大嗓门。按这个传统,AI 只是又一种延伸。第二条:这次不一样——大脑是最后一个没有被无机复制的器官,而现在我们在短短几十年里试着复制它3。
2. 「学习」这个词,机器用得跟人一样认真
这一节讲本章第一个承重机制:机器的能力 从哪来。
先看一台普通软件是怎么干活的。程序员把「输入是什么、输出该是什么」一步步写死,机器照着执行——这叫编程:人写规则,机器遵守规则。
第二种反着来。所谓机器学习,指的是人不再直接写「怎么干」的规则,只写「怎么改自己」的流程,让机器自己去试、去调。
书里对这个区别的表述很干净:AI 对世界的映射(把每种输入对应到什么输出的那张对应关系)「不是通过编程得来的,而是学习出来的」4。
那机器调的是什么?是权重——机器内部一大堆可调的数,每个数决定某条输入线索说话的份量。书里拿人脑打比方:感官输入会落到大脑神经连接的强弱上,机器也一样,「逐步加强自身的计算权重」5。
训练师定期给机器的产出打分,机器用反向传播——意思是把「输出差在哪」沿着机器内部已经建立的数学关系一层层往回传、顺手改进沿途所有权重——来把修正意见内化6。
书里还留了一个很生动的观察:训练早期,模型像懒学生。面对「2+2 等于几」,它先不做加法,直接把答案「4」编码进去——只记住答案而非实际学习;但样本一多,死记就崩,机器被迫像人一样抽象出普遍的规则7。
3. 主走查:一个问题穿过一台造好的机器
这一节把本章的承重机制串在一条走查上:从训练结束那一刻起,一个问题进来,到答案出去,中间发生什么。
先立两个词。训练——指的就是上面那一整个「试错+调权重」的阶段。模型——指的就是训练完成后得到的那台机器本身——你听到的「大模型」,说的是同一个东西,只是它调的权重多到以百亿计。
你跟这台机器打交道的地方——对话框也好、命令行也好——就是它的接口:进去的是你的问题,出来的是它的回答。
准备(训练期,以「月」计)
喂海量数据 → 试答 → 反向传播修正权重 → 再试
(书里的量级:训练最大模型需要数月)
─────────── 训练结束,原始数据可以丢掉了 ───────────
走查开始:你问它一个问题
第 1 步 它不去翻训练时读过的任何一篇原文
——书里的说法:模型「不再需要访问训练时使用的
原始数据」,留下的只是拼起来的「指导性直觉」[^8]
第 2 步 它凭这份直觉做推断,不是回忆
——就像人不随身带资料库,靠理解去答[^8]
第 3 步 答一个简单问题,内部也要执行数十亿次操作
——对照:传统计算机只会检索内存里已有的信息,
「无法得出内存中不存在的结论」[^9]
第 4 步 全程只要几分之一秒
——对照:训练同一台机器要数月[^10]
图说:第 1、2 步是「推断而非回忆」;第 3 步是它和
传统计算机的分界;第 4 步和训练期的「月」对照,
就是书反复说的「训练慢、推理快」。
书里给这套分工找了个人的对应物:培养一名博士后要 20 年以上,之后他两天就能就一个题目写出一篇像样的文章——前面强度大、后面速度快,人和机器同构8。
速度的量级也在这里给出:人脑有并行(同时处理多路信息)的本事,但受生物回路限制;如果拿计算机的时钟频率(每秒的基本节拍数)去量人脑回路,AI 超级计算机的平均处理速度约是人脑的 1.2 亿倍9。书里自己补了一句清醒话:速度本身不代表聪明,「极其蠢笨之人也能快速思考」;真正的好处是两条——摄取更多信息、同时处理更多请求10。
4. 不透明度:知其然,不知其所以然
这一节讲本章最重的判断:人类第一次拿到了「给不出理由的知识」。
人类近几百年的规矩是:一个说法要成立,得能核对——透明度、可重复性和逻辑验证,三者齐了才算事实11。可是第 3 节那台机器,内部是数万亿个概率——给「像」打的分数——判断织成的网,训练完成后并不公布内部的数学结构,连发明者也看不懂,只能靠逐个检查输出把关——所以这类系统被叫作「黑盒子」12。
于是出现一件书里认为史无前例的事:人类的知识与人类的理解分了家。你能拿到结论,却拿不到结论的由来13。而人类对「理解」的传统要求,书里引了一句人文主义冲动概括得很准:「如果我无法对某事身体力行,那么我就无法理解它;而如果我无法理解它,那么我就不能知道它是真的。」14
这个要求,机器的输出一条都不满足。那我们为什么还在信?书里观察到一个已成事实的现象:数百万用户已经接受了 AI 输出的真实性,这种信心「必须建立在一种信仰之上」15。它拿一个真实案子当注脚:一名律师向法庭提交了 ChatGPT 写的辩护状,里面的「判例」是模型捏造的,法官对律师罚款 5000 美元16。
由此引出本章最大的担忧。人类会不会倒退回**前现代社会那种「接受不加解释的权威」**的状态?书里给这个可能性起了一个名字:黑暗启蒙——启蒙运动教人「先懂再信」,AI 时代可能教会人类「不懂也信」,那就等于把启蒙倒着走了一遍17。
判断(我们的,不是书里的): 「信仰」这个词在这里要按字面警惕地读——但「不懂也信」并非 AI 独有:绝大多数人从来不能亲自验证疫苗原理、桥梁受力计算。真变化可能不在「信不信」,而在验证成本:以前专家群体能替你验证,现在连专家也未必读得懂模型的内部结构,能验证的人变少了,这才是「黑暗启蒙」担忧里最硬的内核。 如果错,会错在: 如果可解释性研究让专家重新读得懂模型(哪怕只是抽检关键内部结构),验证群体没有缩小,这条担忧就会退化成老问题的新面孔。
5. 多样性:它的时间比我们快十倍
这一节讲两个量:AI 的世代更替速度,和 它的技术底座有多少种可能。
先算时间账。书里的三个数:人工智能的整个历史不过 70 年;人类的一个世代约 25 年;而 AI 的世代更替,「只需十分之一的时间就能实现飞跃」18。把两个尺度叠起来:人类时间里长达百年的「AI 时代」,按技术尺度切,「甚至包含了数百个世代」19。这意味着一件事:人类感觉像一场革命的变化,在机器的时间表里只是一次常规迭代——我们用来消化变化的心理节奏,和它用来产生变化的技术节奏,根本不同步。
再看底座。催生这波进展的基础架构,今天通行的名字是 Transformer(书里叫它「变换器」,同一个东西)。它解决的问题是:老结构读句子一个词一个词往后挪,每次只顾得上相邻两个词的关系;变换器让模型同时看整句话里所有词之间的联系,把这些联系的数学表征一起用上,再预测最佳回应20。两个书里特意标出的态度词值得记住:它的功能「始料未及」,它的成功「几乎是偶然而得的」,而且未必是唯一能成事的架构21——底座本身也在演化,新的研究路线可能更便宜、更快。
顺着这个势头,书里预言 AI 会迎来自己的「寒武纪大爆发」——这个词借自地球生命史:生命形式曾在地质学上一段极短的时间里喷涌式多样化;书里预期机器智能同样会分支出「一个快速进化的属,甚至是一个科」,各自用不同的逻辑运行22。
6. 尺度与分辨率:人脑撞墙的地方,它还没撞
这一节讲两台机器最不对等的比赛条件:身体。
人脑的大小被身体锁死。书里写道:大脑必须装进颅骨,而婴儿的颅骨必须大体上能通过产道——大脑再大一点,分娩就活不下来;再小一点,认知就吃亏。人类因此停在一种进化平衡态上23。
这个事实有一个技术性的推论,书里用了「标度律」这个词——所谓标度律,指的是「规模翻倍,能力跟着按可预期的比例增长」这类规律;书里给的老例子是物体长度与面积的关系24。关键在这里:人类永远无法给自己大脑做标度律实验(不能造一批更大的脑子来试),而 AI 出生时没有身体,芯片和数据中心可以集群、互联,目前没有观察到的上限——「人工智能必将经受标度 律的考验,而人类从未经受过这种考验」25。
顺带一个书里的冷知识补进这一节:人类把观察推向极小极远靠显微镜和望远镜,但数据压缩工具的冠军是一支笔——4000 年前发明的书写,至今仍是最有效的数据结构;数学是它最纯粹的形态26。AI 今天的「书写」是 0 和 1 组成的字符串(一长串只用两种符号写成的编码),和笔同构,只是量大得多。
书里在这里埋了一个漂亮的对称:AI 先在人类写下的文本(书里称「世界图书馆」)上训练,然后反过来为人类解锁关于人类自己的新知识——它管这叫「一个优雅的反转」27。
7. 动物界与双重悖论:谁排在谁前面
这一节把镜头拉远:把机器放进「智能谁高谁低」的比较里,会发生两件让人头晕的事。
第一件,人脑自己并不神秘。书里指出,神经科学目前的证据显示,人脑在很大程度上也是预测处理驱动的——所谓预测处理,意思是大脑随时在预测感官输入的下一拍,靠「预测误差」——猜错的差值——来驱动 认知;读书听话时,大脑里有个预测器在猜「下一个词」28。也就是说,人脑和语言模型用的是同一类把戏。书里还借柏拉图的洞穴比喻翻了个面:AI 像被锁在洞里、只看得见墙上影子的囚徒——它的全部见闻来自训练数据;但书里问,谁能保证不会有「一个有进取心的囚徒」从影子推出洞外还有一个更大、更有层次的世界?29
第二件,座次要换了。书里的推演是:机器可能主张人类和动物同属进化产生的「碳系统」,而自己是工程产生的「硅系统」,两者不必分高下30;而 AI 帮人类解码鲸豚的发声信号这类实验,已经在松动「人类独殊论」31。
然后是本章的收尾悖论,书里叫它「双重悖论」。悖论一:超越大概要靠背离。飞机的设计灵感来自鸟,但正因为不模仿鸟,喷气式飞机才飞得比任何生物高、快;人脑不是蓝图,「而是我们迈向更伟大目标的中继站和灵感源泉」32。悖论二:我们是在不了解大脑的前提下试图超越大脑——「我们又如何超越我们一开始就不了解的东西」33。
书里在结尾把这两种可能的姿态摆了出来:如果机器智能沿着人脑的样子长,人类还能在它的成就里认出自己;如果它长成了别的样子,「它将不是人类的映像,而是人类的替代品」34。
8. 作者的判断与证据(分开标)
| 书里的说法 | 性质 | 证据 |
|---|---|---|
| AI 与一切既往技术不可类比,因为目标是复制智能本身 | 判断/立场 | 全书第一节的论证;属哲学立场,不可证伪(拿不出能判它对错的经验检验) |
| 训练慢、作答快;模型靠直觉而非翻资料作答 | 机制描述 | 与今天机器学习的工程事实一致;书里给了数字口径(数月 vs 几分之一秒) |
| 速度约是人脑的 1.2 亿倍 | 数字口径 | 书内明说是「时钟频率」口径的对比;量级供参照,不是精确测量 |
| 模型内部对发明者也不透明 | 机制描述+事实 | 与业界「黑盒」共识一致;律师罚款 5000 美元为真实案例 |
| AI 将迎来寒武纪大爆发式的多样化 | 推测 | 类比达尔文演化,无定量支撑 |
| 超越人脑需要背离人脑蓝图 | 推测 | 飞机类比;书里自己也承认这是「有可能」而非必然 |
9. 边界与局限
- 「1.2 亿倍」是口径游戏。 时钟频率量的不是智能,书里自己也说速度≠智力;这个数只配用来感受量级,不许当论证用。
- 「4 天学完高中」没有可比的学习目标。 机器读完不等于学会做人——书里用它说速度,我们不能顺手把它读成「机器比学生强」。
- 预测处理类比有争议。 「大脑是预测机器」是神经科学中的一个有力假说,不是定论;书里的表述比学界共识更满。
- 「数百个世代」是修辞算术。 它把「模型版本迭代」当「世代」,与生物世代的含义不同;用来制造紧迫感有效,用来推论要打折。
- 这本书没讲 Transformer 内部怎么算。 书里的描述停留在「同时看所有词的联系」;想往下挖机制,我们书架上的《这就是 ChatGPT》拆解有更细的一层35。
10. 可带走的
- 判断一个系统是「编程」还是「学习」,看规则是谁写的。 人写规则=传统软件;机器自己从数据里长出规则=机器学习。
- 训练一次、答题亿万次——成本结构像建电厂vs用电。 前期越 重,后期越便宜,这是 AI 能铺开的商业底盘。
- 「黑盒」不是修辞,是工程现状: 连造它的人也读不了内部,人类只能靠抽查输出把关。
- 知识与理解已经分家。 下次引用 AI 的结论,先问一句:它给得出理由吗?给不出,就标明「来源:模型输出」。
- 两套时钟不可同步:人类世代 25 年,AI 世代约十分之一。 制度的更新速度天然追不上模型的迭代速度——这是后面政治、安全章节所有紧迫感的来源。
- Transformer 的成功是偶然的,不是终点。 别把现在的架构当成 AI 的天花板,底座本身还在演化。
- 人脑被产道锁死,AI 没有身体。 标度律实验只有它能做——「规模还能换来什么」这个问题只有它在替全文明试答案。
- 超越大概率靠背离。 期待 AI「像人一样思考」可能是方向性误解;它越像我们,可能越弱。
11. 原文地图
| 主题 | 原书章 | 原文位置 |
|---|---|---|
| 类比清单(火/电/原子能/小行星) | 第二章 大脑 | text/06-ch02.txt:15(搜「比作火或电」) |
| 目标是创造更强大的智能 | 第二章 大脑 | text/06-ch02.txt:31(搜「更为强大的智能」) |
| 编程 vs 学习 | 第二章 大脑 | text/06-ch02.txt:71(搜「而是学 习出来的」) |
| 懒学生只记答案 | 第二章 大脑 | text/06-ch02.txt:64(搜「只记住答案」) |
| 反向传播 | 第二章 大脑 | text/06-ch02.txt:80(搜「反向传播」) |
| 训练数月、推理几分之一秒 | 第二章 大脑 | text/06-ch02.txt:143(搜「数月时间」) · text/06-ch02.txt:144(搜「几分之一秒」) |
| 推断而非回忆 | 第二章 大脑 | text/06-ch02.txt:129(搜「推断而非回忆」) |
| 数十亿次操作、传统计算机只能检索 | 第二章 大脑 | text/06-ch02.txt:134(搜「数十亿次」) |
| 1.2 亿倍 | 第二章 大脑 | text/06-ch02.txt:102(搜「1.2亿倍」) |
| 速度不等于智力 | 第二章 大脑 | text/06-ch02.txt:104(搜「极其蠢笨之人」) |
| 科学方法三要件 | 第二章 大脑 | text/06-ch02.txt:162(搜「可重复性」) |
| 黑盒子 | 第二章 大脑 | text/06-ch02.txt:183(搜「黑盒子」) |
| 知识与理解分离 | 第二章 大脑 | text/06-ch02.txt:193(搜「人类的“理解”分」) |
| 人文主义冲动 | 第二章 大脑 | text/06-ch02.txt:197(搜「如果我无法」) |
| 律师捏造判例被罚 | 第二章 大脑 | text/06-ch02.txt:208(搜「捏造」) |
| 黑暗启蒙 | 第二章 大脑 | text/06-ch02.txt:233(搜「黑暗启蒙」) |
| AI 历史 70 年 | 第二章 大脑 | text/06-ch02.txt:244(搜「不过70年」) |
| 世代 25 年 vs 十分之一 | 第二章 大脑 | text/06-ch02.txt:250(搜「大约持续25年」) |
| 数百个世代 | 第二章 大脑 | text/06-ch02.txt:260(搜「数百个世代」) |
| 变换器(Transformer) | 第二章 大脑 | text/06-ch02.txt:278(搜「变换器」) |
| 成功偶然、未必唯一 | 第二章 大脑 | text/06-ch02.txt:289(搜「始料未及」) |
| 寒武纪大爆发 | 第二章 大脑 | text/06-ch02.txt:298(搜「寒武纪大爆发」) |
| 产道与进化平衡态 | 第二章 大脑 | text/06-ch02.txt:344(搜「产道」) |
| 标度律 | 第二章 大脑 | text/06-ch02.txt:351(搜「标度律」) |
| AI 必将经受标度律考验 | 第二章 大脑 | text/06-ch02.txt:366(搜「必将经受标度律」) |
| 笔是最有效的数据结构 | 第二章 大脑 | text/06-ch02.txt:373(搜「4000年前」) |
| 优雅的反转 | 第二章 大脑 | text/06-ch02.txt:400(搜「优雅的反转」) |
| 人脑的预测处理 | 第二章 大脑 | text/06-ch02.txt:417(搜「预测处理」) |
| 柏拉图洞穴 | 第二章 大脑 | text/06-ch02.txt:431(搜「柏拉图洞穴」) |
| 碳系统 vs 硅系统 | 第二章 大脑 | text/06-ch02.txt:471(搜「碳系统」) |
| 飞机不模仿鸟 | 第二章 大脑 | text/06-ch02.txt:519(搜「来自鸟类」) |
| 中继站和灵感源泉 | 第二章 大脑 | text/06-ch02.txt:527(搜「中继站和灵感源泉」) |
| 如何超越不了解的东西 | 第二章 大脑 | text/06-ch02.txt:533(搜「不了解的东西」) |
| 映像还是替代品 | 第二章 大脑 | text/06-ch02.txt:540(搜「人类的替代品」) |