思想实验 — 德雷弗斯、中文屋、缸中脑与一场关于生死的对话
这一章讲三件事: 三位哲学家对 AI 的三种批评——德雷弗斯的"你们做的是哲学家 玩剩下的"(外加"计算机还做不到 X"),塞尔的中文屋(执行中文规则的人算不算 懂中文),普特南的缸中脑(泡在营养液里的大脑怎么知道世界是真的);以及原书 第 13 章那场尼克与苏格拉底的假想对话——把"我还是不是我"这个问题按 换胳膊→换心→换头→换记忆的顺序拆到极限。 这一章没有算法,全是压力测试:好的思想实验和好的测试用例一样,专门打系统 没想到的地方。
1. 这一章讲什么
原书对哲 学与 AI 的关系有一句总纲式的立场:"哲学家对严肃学科的评论往往不值一看, 倒是科学家对哲学的评论不时闪现智力的火花"1——但本章的三个主角是例外中的例外: 德雷弗斯(欧陆派,骂了 AI 五十年)、塞尔(英美德高望重,一个思想实验用到现在)、 普特南(本身是定理证明的开拓者,数学家出身的哲学家)。
为什么值得认真对待批评者? 因为 AI 史反复证明:批评者说"计算机不能做 X" 的地方,常常是下一个突破点的坐标——德雷弗斯指着下棋骂了三十年,深蓝来了; 指着定理证明骂,EQP 来了。把批评者当测试用例的生成器,是工程师读哲学史 最经济的方式。
2. 顶层全景
1964 德雷弗斯《炼金术与人工智能》(兰德 memo)→ 1972《计算机不能做什么》
批评一:"都是哲学家玩剩下的" 批评二:"计算机还做不到 X"
↓
1966 德雷弗斯本人输给下棋程序 MacHack("赢我不算赢")
↓
1980 塞尔《心灵、大脑和程序》:中文屋思想实验
→ 系统回应 → 内化之问 → 强弱 AI 之分
↓
1981 普特南《理性、真理与历史》:缸中脑
(此前 1960《心和机器》定义了计算主义,后又自我批判)
↓
第13章 尼克 × 苏格拉底(假想对话):
换胳膊 → 假腿 → 换心 → 换头 → 记忆体移植 → 人造记忆体
→ 永生的边界:能解决"给无限时间就能解决"的问题,
解决不了"无论多少时间都解决不了"的问题(超计算)
图说:三场批评的靶子依次是:AI 的目标(德雷弗斯)、AI 的机制(塞尔)、
AI 的形而上学前提(普特南)。第 13 章的对话把同一组问题推向个人尺度。
3. 核心原理
3.1 德雷弗斯:五十年批评的两句话
原书把德雷弗斯的全部批评总结为"多少有些互相矛盾的两句话"2:
- "人工智能研究者搞的所有东西都是哲学家玩剩下的"——霍布斯的"推理即计算"、 笛卡儿的心理表示、莱布尼茨设想的"普遍语言"方案;
- "人能做的好多事,现在的计算机做不了"。
第二句的策略是"两头堵":每当机器做到了原来说不能做的事,就把"不能做"的清单 往后挪一页。史实核查(原书给的):德雷弗斯 1966 年与最强的下棋程序 MacHack 对弈并输了,之后澄清"我原来论断的是计算机当时不能赢人类棋手,并不是 永远不能"——原书评:"这话说了等于没说"3。学界留下一份维特根斯坦 风格的 笔记(佩珀特执笔):"1.5 计算机不能下棋。1.5.1 德雷弗斯也不能下棋。"3
他最有分量的哲学论点,原书用飞机论证回敬:德雷弗斯按梅洛-庞提的思路主张 "人脑与环境直接交流,不通过表示",所以符号表示是死路。原书的回应: "造飞机不需要模仿鸟类的生理结构,飞机的机翼本身并不会动。飞机的飞行依赖于 空气动力学原理。"——飞起来是检验标准,像不像鸟不是4。
德雷弗斯批评史上的一个小反讽(原书没有明说,我们点破):他说符号派解决不了 "框架问题",出路是神经网络——而 2010 年代深度学习确实绕开了符号知识表示。 骂错了五十年细节的批评者,押对了大方向。 这正是把批评当测试用例的价值: 他不告诉你答案,但他能告诉你哪里会出事。
3.2 主走查:中文屋,一张纸条的旅程
1980 年,塞尔在《行为与脑科学》发表《心灵、大脑和程序》,其中的思想实验 "中文屋"成为史上被引用最多的假想实验之一。设定5:
一个只懂英文的人(塞尔用第一人称"我")被锁在屋里,手头只有一本手册 (或一个程序),教他收到中文纸条时如何用中文回条。屋外的人用中文问问题, 屋里的人靠手册递纸条应答。屋外人分不清他是中国人——那么,他懂中文吗? 塞尔:不懂。
把这张纸条的旅程走一遍(纸条内容为演示,机制与原文一致):
屋外递入纸条: 「今天天气怎么样?」
屋内"我"的动作(完全不懂中文):
第 1 步 逐字扫描符号串,在手册的"匹配列"查找同样的符号序列
第 2 步 手册命中一行,指向回复列的另一个符号串
第 3 步 把回复串誊到新纸条,递出:「晴,微风。」
屋外人的体验:应答正确、甚至连贯——判定"屋里的人懂中文"。
屋内"我"的状态:从头到尾只做了"符号匹配",对"天气"二字毫无所知。
塞尔的结论:符号操作(语法)不产生理解(语义)。
推论:计算机只会符号操作,所以计算机不"理解"。
第一个标准反击是"系统回应":懂中文的不是屋里的人,而是"屋子+人+手册" 这个系统。原书给系统回应加了一个漂亮的放大器,三个类比6:
- 戴眼镜的人算能看见东西吗?——算;
- 装了人工耳蜗的聋人算能听见吗?——算;
- 坐飞机的人算能飞吗?——算。
如果这些答案都是"算",凭什么"屋子+人"不算懂中文? 塞尔必须划一条线: 他说理解要求"内化"——手册必须变成人的一部分。可原书立刻追问内化的边界: 爱因斯坦说"我的笔加上我要比我自己聪明",笔算不算外化?查手册查到熟能生巧、 变成下意识动作,算内化了吗? 原书自己的裁决:"我猜对塞尔来说,人工耳蜗算是 内化,飞机算是外化,而眼镜则可算可不算。"——这条线画不出来,恰恰是问题的核心。
3.3 体积论证:如果屋子缩小到手掌大
原书给中文屋补了一个塞尔没料到的角度:体积。语音识别已经被公认为解决了 (机器识别率达到或超过人类),两个语言不通的人可以靠它交流——
- 如果那个语音识别工具是一整台台式机,我们不会觉得两人"理解"了彼此;
- 如果它能微型化到直接放进耳朵里呢?
原书借丹尼特的俏皮话("植物是很慢的动物")加了半句自己的:"植物是很大的动物。" ——"内化"的成本随器件缩小而变得便宜,而塞尔的直觉严重依赖体积。 中世纪的迂腐学者也曾把望远镜和显微镜斥为"光学把戏"。7
这一节还有一个尖锐的改写(我们的判断,不是书里的):中文屋测试的其实是 那本手册——如果手册(程序)本身已能通过图灵测试,它就是一个机器翻译神器, "这本身就是强人工智能了"——原书正是这么写的8。换句话说,中文屋的设定 悄悄把"最弱的屋内人"和"最强的手册"缝在了一起:结论(不懂)取决于你盯着谁看。 如果错,会错在: 若"理解"的定义必须绑定主体尺寸与封装位置(物理内化), 那么"理解"就不是功能属性而是工程属性——这会顺手取消"人脑 vs 程序"的区别, 反噬塞尔自己的结论。
3.4 缸中脑:把"怀疑世界"推到工程形态
普特南 1981 年《理性、真理与历史》开篇的假想实验:一个大脑被泡在营养液的缸里, 神经末梢连着超级计算机,计算机让大脑保持一切完好的幻觉——它读到"一个邪恶科学家 把大脑放进缸中"的故事时,体验与真实无异9。《黑客帝国》《盗梦空间》的直接祖先。
普特南的真正专业贡献是图灵指称测试:用图灵测试的办法测机器能否像人那样 指称外部世界的客体(给机器一张丘吉尔的照片,机器不知所云——语言测试的 底线是语言);而缸中脑的底线是神经末梢,它对照片有反应——但泡在缸里的脑 怎么知道自己是"颅中脑"还是"缸中脑"?10
原书对三位批评者的总评是一张功能表11:普特南把 AI 当自己的用户(他是内行, "计算机科学家必须认真倾听");丹尼特把自己当 AI 的用户("即使 AI 没解决什么 实际问题,从更深的层次提出问题本身就是进步");而塞尔与德雷弗斯提供的是 压力测试。
3.5 次走查:苏格拉底的换器官序列
原书第 13 章不是论证文,是一场假想对话:尼克与苏格拉底,主题是"我还是不是我"。 它本质上是一台思想实验的机器,按从外到内的顺序逐层替换12:
① 断一条胳膊,还是你吗? → 是(功能可替换)
② 换别人的胳膊/假腿呢? → 是(器官不承载"我")
③ 换一颗别人的心脏? → 是(尼克的补充:换心据说可能改变性格——
苏格拉底答:任何手术都会改变性格,
换条胳膊的影响未必比换心小)
④ 换整个身体(头移植)? → 尼克:"我之所以是我,是因为我的自我意识;
功能和实现可以分开,意识是功能,
身体只是实现。"
⑤ 记忆体(海马体+前额叶)移植到别人的大脑 → "那我大概还是我"
⑥ 人造记忆体(手术前备份,失灵后植入新脑)→ "生死就没有界限了?"
图说:每一问替换一层,从肢体到器官到意识载体到记忆本身。
对话的机关在第 ⑤→⑥ 步之间:"所有的学习,都是记忆"(尼克在对话里
把这句话还给苏格拉底)——如果"我"=记忆+处理方式,而两者都可移植,
个人同一性就不再有物理学上的锚点。
这场对话的终点是原书第 13 章唯一真正"技术性"的结论:永生只能解决 "给人无限时间就可以解决的问题"——超级计算机算得比人快,但给人无限时间, 超算可解的人也可解;还有一些问题无论给多少时间都解不了,能解它们的装置 被暂时称为"超计算机"(hypercomputer)。永生解决不了超计算的问题。13
把第 12、13 章并排看,你会认出同一个骨架:中文屋问"功能相同的系统内部 有没有理解",换器官对话问"部件全部替换后有没有自我"。两个问题的共同结构是: 功能主义(功能相同即相同)与直观(内在有东西)的冲突。 原书把第 12 章末尾的 一句挪来收束最合适:"整个人工智能就是个大的假想实验,只不过哲学家用纸和笔, 而计算机科学家用计算机硬件和软件,其本质是一样的。不同的是哲学家从不为假想 实验的结果所苦恼,而计算机科学家则偶尔会被他们取得的成果所惊到。"14
4. 作者的判断与证据
史实层:德雷弗斯在麻省理工的终身教职风波(校长维斯纳亲自干预,咨询了哈佛 与苏联同行后批准;他甚至考虑雇演员扮 DARPA 官员吓唬同事)、1992 年《计算机仍然 不能做什么》改由 MIT 出版社出版、中文屋 1980 年发表于《行为与脑科学》、 缸中脑 1981 年出版,均有文献。
作者观点层(这一章几乎全是观点,分寸要格外注意):
- 对德雷弗斯的定性:"小肚鸡肠""靠蹭别人的热点过日子";对海德格尔派 AI 的 驳斥用了一个比喻:"这听起来真有点儿像仁波切们宣称他们早就料到了量子力学"15; 这些是论战语言,转述时须标明是原书的态度;
- 对塞尔的"内化"拆解、体积论证,是作者自己的论辩(有洞见,但非塞尔本人承认的 反驳);
- "北京大学的洪加威"式的中国视角在第 12 章以"分析哲学也挡不住哲学的颓势"出现, 是作者的学科史判断16。
原书标注存疑处:作者自己标注了第 13 章 21 克灵魂实验的引用"是个玩笑" (1907 年麦克道高尔的测量,被认为不严谨)17;明斯基冷冻遗体在第 01 章已标 "江湖传说"。本书拆解延续这些标注:第 13 章通篇是假想对话,无一句可当史实引。
5. 边界与局限
- 本章(原书第 12 章)跳过了分析哲学内部对塞尔的学院化反驳(机器人回应、 心灵哲学家的大脑替换论证等),原书只保留了作者自己的放大器版本;
- "中文屋已被大模型终结"是流行说法,原书没有这么说:原书的处理是把中文屋 定位为"测试那本手册",而 2020 年代模型的行为恰好加剧了争论而非平息;
- 缸中脑的哲学论证(普特南后来用它反证"指称需要因果接触")原书未展开, 只用了它的科幻影响面;
- 第 13 章的对话涉及安乐死等伦理议题(比利时的三位医生+一位心理医生签字制), 原书一笔带过,不构成伦理学讨论。
6. 可带走的
- 把批评者当测试用例生成器:德雷弗斯骂过的每一处,后来都是突破点的坐标 ——读哲学批评最经济的方式;
- 德雷弗斯两句批评的成色不同:"都是玩剩下的"是思想史抱怨;"还做不到 X" 是可检验断言——后者有价值,前者没有;
- 飞机论证是回应"不够像人"类批评的通用模板:飞起来是标准,像不像鸟不是;
- 中文屋的旅程:匹配符号串→查手册→回纸条;塞尔由此论断语法不产生语义—— 而系统回应问的是:懂中文的单位到底该是谁;
- 内化的边界画不出来(眼镜/耳蜗/飞机/缩小到手掌的工具),体积论证说明 "理解"的直觉严重依赖封装尺寸——这是工程进步可以改变直觉的罕见案例;
- 缸中脑的贡献是把"怀疑世界"工程化:图灵测试的底线是语言,缸中脑的底线 是神经末梢——两层测试测的是不同的东西;
- 换器官序列的功能主义台阶:肢体→器官→身体→记忆,每一级"我还是我" 都成立,直到你问"记忆也换了呢";
- 永生的技术边界是超计算:能"给无限时间就解决"的问题永生可解; 无论多少时间都解决不了的问题,永生无解——个人尺度的问题,最后落在 计算理论的分层上(第 09 章的回声);
- 思想实验与工程是同构的:哲学家纸笔推演,工程师软硬件推演;区别只在 谁为自己的结果负责。
7. 原文地图
| 主题 | 原书章 | 原文位置 |
|---|---|---|
| 三位批评者总览 | 第12章 哲学家和人工智能 | text/16-ch12.txt:30(搜「德雷弗斯」) · text/16-ch12.txt:31(搜「中文屋」) · text/16-ch12.txt:33(搜「缸中脑」) |
| 两句话总结批评 | 第12章 哲学家和人工智能 | text/16-ch12.txt:92(搜「4个层面」) · text/16-ch12.txt:94(搜「玩剩下的」) · text/16-ch12.txt:97(搜「做不了」) |
| 兰德 memo 与扣稿 | 第12章 哲学家和人工智能 | text/16-ch12.txt:59(搜「炼金术」) · text/16-ch12.txt:60(搜「扣下」) |
| 食堂躲他、终身教职、雇演员 | 第12章 哲学家和人工智能 | text/16-ch12.txt:70(搜「食堂」) · text/16-ch12.txt:71(搜「终身教职」) · text/16-ch12.txt:72(搜「演员」) |
| 1992 再版与 MIT 出版社 | 第12章 哲学家和人工智能 | text/16-ch12.txt:83(搜「新瓶装旧酒」) · text/16-ch12.txt:89(搜「麻省理工学院出版社」) |
| 输给 MacHack 与笔记 | 第12章 哲学家和人工智能 | text/16-ch12.txt:104(搜「MacHack」) · text/16-ch12.txt:105(搜「赢我不算赢」) · text/16-ch12.txt:113(搜「德雷弗斯也不能下棋」) |
| 飞机论证 | 第12章 哲学家和人工智能 | text/16-ch12.txt:163(搜「飞机」) · text/16-ch12.txt:164(搜「机翼」) |
| 海德格尔派 AI、框架问题 | 第12章 哲学家和人工智能 | text/16-ch12.txt:124(搜「存在与时间」) · text/16-ch12.txt:130(搜「框架问题」) · text/16-ch12.txt:134(搜「仁波切」) |
| 胡塞尔=知识表示之说被驳 | 第12章 哲学家和人工智能 | text/16-ch12.txt:136(搜「胡塞尔」) · text/16-ch12.txt:139(搜「顶层」) · text/16-ch12.txt:148(搜「Object」) |
| 哲学家怎么混迹 AI 江湖 | 第12章 哲学家和人工智能 | text/16-ch12.txt:177(搜「无缝的蛋」) · text/16-ch12.txt:395(搜「哲学情怀」) |
| 中文屋设定 | 第12章 哲学家和人工智能 | text/16-ch12.txt:194(搜「Minds」) · text/16-ch12.txt:204(搜「手册」) · text/16-ch12.txt:206(搜「纸条」) |
| 系统回应与三类比 | 第12章 哲学家和人工智能 | text/16-ch12.txt:49(搜「系统」) · text/16-ch12.txt:216(搜「眼镜」) · text/16-ch12.txt:217(搜「耳蜗」) · text/16-ch12.txt:163(搜「飞机」) |
| 内化之问与作者裁决 | 第12章 哲学家和人工智能 | text/16-ch12.txt:220(搜「内化」) · text/16-ch12.txt:222(搜「笔」) · text/16-ch12.txt:225(搜「下意识」) · text/16-ch12.txt:226(搜「人工耳蜗算是内化」) |
| 体积论证、植物是很大的动物 | 第12章 哲学家和人工智能 | text/16-ch12.txt:231(搜「台式计算机」) · text/16-ch12.txt:232(搜「微型化」) · text/16-ch12.txt:234(搜「植物是很大的动」) |
| 意向性、强弱 AI 无质变 | 第12章 哲学家和人工智能 | text/16-ch12.txt:240(搜「意向」) · text/16-ch12.txt:249(搜「质」) · text/16-ch12.txt:251(搜「神器」) |
| 维特根斯坦砖头:理解是社会现象 | 第12章 哲学家和人工智能 | text/16-ch12.txt:260(搜「泥瓦匠」) · text/16-ch12.txt:261(搜「社会现象」) |
| 缸中脑设定 | 第12章 哲学家和人工智能 | text/16-ch12.txt:33(搜「缸中脑」) · text/16-ch12.txt:284(搜「营养液」) · text/16-ch12.txt:299(搜「黑客帝国」) |
| 图灵指称测试 | 第12章 哲学家和人工智能 | text/16-ch12.txt:304(搜「指称」) · text/16-ch12.txt:310(搜「图灵指称测试的底线是语」) · text/16-ch12.txt:314(搜「颅中脑」) |
| 普特南/丹尼特:用户之别 | 第12章 哲学家和人工智能 | text/16-ch12.txt:319(搜「认真倾听」) · text/16-ch12.txt:322(搜「提出问题」) · text/16-ch12.txt:325(搜「用户」) |
| 哲学不指导科学、提醒 | 第12章 哲学家和人工智能 | text/16-ch12.txt:329(搜「指导科学」) · text/16-ch12.txt:331(搜「提醒」) |
| 埃德尔曼、亚里士多德牙齿 | 第12章 哲学家和人工智能 | text/16-ch12.txt:359(搜「埃德尔曼」) · text/16-ch12.txt:362(搜「牙齿」) |
| 彭罗斯看塞尔、敌人的敌人 | 第12章 哲学家和人工智能 | text/16-ch12.txt:349(搜「误导」) · text/16-ch12.txt:351(搜「否定之否定」) |
| AI 是大假想实验 | 第12章 哲学家和人工智能 | text/16-ch12.txt:399(搜「假想实验」) · text/16-ch12.txt:401(搜「苦恼」) |
| 苏格拉底之死与《斐多篇》 | 第13章 当我们谈论生死时，我们在谈论什么? | text/17-ch13.txt:23(搜「正在死」) · text/17-ch13.txt:37(搜「斐多」) |
| 假想对话的设定 | 第13章 当我们谈论生死时，我们在谈论什么? | text/17-ch13.txt:46(搜「假想的对话」) |
| 换胳膊/假腿/换心 | 第13章 当我们谈论生死时，我们在谈论什么? | text/17-ch13.txt:62(搜「胳膊」) · text/17-ch13.txt:70(搜「假腿」) · text/17-ch13.txt:76(搜「心脏」) |
| DNA 与自我意识、功能和实现 | 第13章 当我们谈论生死时，我们在谈论什么? | text/17-ch13.txt:89(搜「DNA」) · text/17-ch13.txt:90(搜「功能和实现」) |
| 海马体与前额叶、记忆移植 | 第13章 当我们谈论生死时，我们在谈论什么? | text/17-ch13.txt:102(搜「海马体」) · text/17-ch13.txt:109(搜「所有的学习」) |
| 人造记忆体与永生 | 第13章 当我们谈论生死时，我们在谈论什么? | text/17-ch13.txt:137(搜「人造记忆体」) · text/17-ch13.txt:37(搜「永生」) |
| 安乐死(比利时) | 第13章 当我们谈论生死时，我们在谈论什么? | text/17-ch13.txt:150(搜「标准」) · text/17-ch13.txt:153(搜「比利时」) |
| 21 克(作者注明是玩笑) | 第13章 当我们谈论生死时，我们在谈论什么? | text/17-ch13.txt:167(搜「21.3克」) · text/17-ch13.txt:169(搜「玩笑」) |
| 永生与超计算的边界 | 第13章 当我们谈论生死时，我们在谈论什么? | text/17-ch13.txt:185(搜「无限时间」) · text/17-ch13.txt:188(搜「超计算机」) |
| 冷冻与"超智能"结尾 | 第13章 当我们谈论生死时，我们在谈论什么? | text/17-ch13.txt:178(搜「冷冻」) · text/17-ch13.txt:190(搜「超智能」) |