跳到主要内容

专家系统与五代机 — 符号派的工程时代及其两次溃败

这一章讲三件事: 专家系统是什么——把领域专家的判断提炼成规则,再用规则推演 出结论,它曾拿到 AI 历史上第一张真正的商业成绩单;知识怎么表示——从框架到描述逻辑, 今天知识图谱的术语全部出自这一段;以及第五代计算机——日本十年十亿美元的国家豪赌, 为什么输,输掉之后留下了什么。 本章是两条线(工程线:专家系统;国家线:五代机)拧成的一条弧:同一个符号派理想, 先被公司化,再被国家化,然后一起撞墙。

1. 这一章讲什么

第 02 章的定理证明给出了符号派的理论底座。到 70 年代,符号派要回答的问题变成: 理论怎么变成能卖钱、能看病、能让国家争胜的东西?

两条路线几乎同时展开:

  • 专家系统:不再追求"证明一切",只在一个窄领域(识别化学结构、诊断感染、 配置计算机)内,把专家的判断规则化、推理自动化;
  • 第五代计算机:日本通产省把符号派的理论底座(逻辑程序)直接升级为国家项目, 想用专用硬件+逻辑语言一次超车。

结局都是溃败,但溃败的方式值得细看——它们不是被证伪(被反例推翻),是被"成本"和"时代"淘汰的。

2. 顶层全景

1965 DENDRAL:第一个专家系统(质谱数据 → 化学结构)

1972 MYCIN:细菌感染诊断,准确率 69%(专科医生 80%,非专科更低)

1980 XCON:DEC 用它配置计算机订单,8 万订单,被当成商业成功案例
↓ ↓
知识表示成熟期 1982 日本五代机启动(十年,约 4.5 亿美元起步)
(框架→描述逻辑→本体) (理论基础:Prolog/逻辑程序)
↓ ↓
1984 Cyc:把人类常识全部编码的野心 1988 并发 Prolog/KL1、各国跟进
↓ ↓
1995 Cyc 30 年未见临界点 1992-94 五代机无声收场;阿尔维计划放弃
↓ ↓
2010 谷歌收购 Metaweb,命名"知识图谱" 遗产:规则引擎、DFKI、知识图谱谱系

图说:左列是"公司化",右列是"国家化"。两列在 2010 年前后汇合:
知识图谱——专家系统的儿子,五代机的孙子。

3. 核心原理

3.1 专家系统是什么:把专家的判断写成规则

专家系统解决的问题是:某个领域的顶尖专家太少,而他们的判断过程可以被提炼成规则。

第一个专家系统 DENDRAL(1965)诞生于一次典型的跨学科合作:遗传学家莱德伯格有数据 (用质谱仪分析火星土壤有没有生命),费根鲍姆有工具(机器归纳), 化学家翟若适补上了化学知识。系统输入质谱数据,输出候选的化学结构1。 注意这个结构:专家知识 → 规则 → 程序推演——此后所有专家系统都是这个模板。

第二代 MYCIN(1972,斯坦福)是教科书案例:诊断细菌感染、开处方。 它的成绩单:处方准确率 69%,同期专科医生 80%,但优于非本专科的医生。 它从未被临床使用——但它的原理被提炼成专家系统内核 EMYCIN2

顺带记一个学术公案:专家系统的"始祖"是谁?MYCIN 团队认 DENDRAL(时间早); 但圈外人纽厄尔认 MYCIN——因为它首创了后来专家系统的标准要素 产生式规则(形如"如果…那么…")与不精确推理3

3.2 主走查:一条产生式规则从匹配到结论

产生式规则的运行方式,拿一个演示版诊断规则走一遍 (下面的规则文本和置信度数值是为演示编的,不是 MYCIN 真实规则; 真实系统有几百条规则,机制相同):

知识库里的规则(演示):
R1: 如果 细菌革兰氏染色 = 阳性 且 形态 = 球状 且 病人发热 > 38.5°C
那么 该细菌是葡萄球菌(置信度 0.7)

输入(病人数据):
染色=阳性, 形态=球状, 体温=39.1°C

推理引擎的动作:
第 1 步 拿 R1 的"如果"部分逐项对输入:三项全中 → 规则被激活
第 2 步 记入中间结论:"葡萄球菌,置信度 0.7"
第 3 步 这条中间结论又成了别的规则的输入(比如选药规则:
"如果病原=葡萄球菌 且 病人对青霉素过敏,那么用红霉素")
第 4 步 反复前向传播,直到得出带置信度的处方

两个要点。 第一,"不精确推理"是专家系统的真正发明:规则带置信度, 结论的置信度由多条规则的置信度组合而来——MYCIN 处理的医学判断天然没有 "真/假"二值,这条设计让符号派第一次能对付"程度"问题。 第二,推理与知识分离:知识库(规则)和推理引擎(执行匹配与组合的程序)是两个 独立部件——换一个领域,理论上只需换知识库。这个分离后来成了整个符号派工程的标准架构, 而它的源头在定理证明里:知识库就是公理集合,规则库就是支持集, 推理引擎更是直接照搬(第 02 章第 3.8 节已经预告)4

边界也在这条走查里:规则覆盖不到的输入,系统就哑火。MYCIN 的 69% 意味着 每三次诊断错一次——在真实诊室里这不可接受,在论文里它是里程碑。

3.3 商业化:XCON 与一次成功的改名术

专家系统最成功的商业案例是 DEC 的 XCON:客户订购 VAX 计算机时,它按需求自动配置 零部件,1980 到 1986 年处理了 8 万个订单5

XCON 到底省了多少钱是个谜:最高估算每年 4000 万美元,另一说 2500 万, 还有认为每年顶多几百万的5。三个数差出一个数量级—— 原书照实记了这个不一致,这正是"商业成功案例"的成色:公司要的是宣传,数字服务于宣传。

效率上的关键突破是卡内基-梅隆的福吉发明的 Rete 算法:规则多了以后, "每条规则都去匹配一遍所有事实"太慢,Rete 通过共享匹配过程大幅提速,XCON 迅速采用 其 OPS 语言6

专家系统后来去哪了?它没死,是改名了。 90 年代"专家系统"成了负面词, 但互联网电商里到处是同样的应用场景——于是新瓶装旧酒,专家系统改名规则引擎, 成为中间件标配;征信、反欺诈、风控至今是规则系统的主场,征信公司 FICO 收购了一串 残存的专家系统公司7判断一个旧技术"死没死",先查查它有没有换个名字活着。

3.4 知识表示:从框架到描述逻辑

把知识放进机器,除了"规则",还有另一条更结构化的路。这一节的几个名词 (框架、描述逻辑、本体,以及把"含义"——也就是语义——挂到符号上的语义网络)是今天知识图谱的全部家底。

框架(frame)= 类型。 明斯基提出:金丝雀是鸟,鸟的属性它自动继承—— 鸟能飞,金丝雀就能飞。原书点破:框架催生了面向对象程序设计,而当一个概念有了成熟实现, "就自动脱离了人工智能"——面向对象如今没人再叫它 AI8。 与框架等价的是语义网络:节点是框架,边是槽(关系)。

描述逻辑 = 被约束的一阶逻辑。 一阶逻辑表达力太强,推理不可判定(第 02 章); 知识表示需要一个可判定的子集。描述逻辑用三个部件把知识收纳成机器可推理的形式9:

ABox(个体事实): Physicist(Newton) ——牛顿是物理学家
TBox(类与子类): Lawfirm ⊆ Company ⊆ Organization ⊆ Agent ⊆ Thing
RBox(关系规则): hasFather ∘ hasFather ⊆ hasGrandfather
——父亲的父亲是祖父

有了这套形式化,回答"梁启超的儿媳妇是谁"就成了推理而不是搜索: 知识图谱知道梁思成是梁启超的儿子,又知道梁思成两次婚姻的对象, 两条 TBox 式的继承关系一拼,答案(林徽因、林洙)自己浮出来10

谱系的终点是知识图谱:Cyc(1984,雷纳特要把人类常识全部编码进机器, "智能就是一千万条规则";30 年过去仍看不到可观应用,原书把"临界点"称为雷纳特的 遁词)11→ 语义网(W3C 试图给网页加机器可读的含义,被谷歌研发总监诺维格在 2006 年 AAAI 会上当众质疑,原书评其为"理论上不严谨,实践中不可用")12 → 2010 年谷歌收购 Metaweb 的 Freebase(4000 万个机器可读实体,对照维基百科的 1000 万篇文章),命名为知识图谱;2016 年谷歌把 Freebase 数据捐给维基数据13

3.5 五代机:把符号派的理论底座押上国运

现在转到右列。1978 年,日本通产省委托元冈达研究下一代计算机;1981 年, 89 页的《第五代计算机系统初步报告》公布,著名的判断是:计算机不该再按硬件工艺 (电子管→晶体管→集成电路)分代,第五代要按体系结构和软件分——核心是"知识信息处理"14

技术选型落在 Prolog 上。要理解这个选择,先补上它背后的理论: 逻辑程序是定理证明"歪打没正着"的副产品。归结原理之后,人们研究出让整条证明沿一条主线推进的归结变体(行话叫线性归结)、 Horn 子句(每条子句最多一个正文字的极简形式),科瓦尔斯基在马赛与科莫饶尔合作, 把"证明"反转成"执行"——程序不再描述"怎么做",只声明"什么是真的", 执行器自己搜索推演路径。这门语言就是 Prolog(卢梭的妻子起的名), 沃伦后来发明沃伦抽象机让它跑得动,科瓦尔斯基提出口号"算法=逻辑+控制"15

次走查,看 Prolog 怎么"执行声明":

程序(声明式知识):
grandfather(G, C) :- father(G, P), parent(P, C). ——G 是 C 的祖父,
若 G 是某 P 的父亲
且 P 是 C 的家长
father(zhang, li). ——张是李的父亲
parent(li, ming). ——李是明的家长

查询: ?- grandfather(zhang, ming).
执行器(自顶向下):要证 grandfather(zhang, ming)
→ 找到规则,生成子目标 father(zhang, P) 和 parent(P, ming)
→ 第一个子目标匹配事实,P := li
→ 第二个子目标 parent(li, ming) 恰好是事实
→ 全部子目标消解,回答 yes
(走查中的推理顺序为演示而写;Prolog 实际按 SLD 归结顺序执行,与原书第 2 章
讲的线性归结一脉相承。)

16

为什么日本选 Prolog 不选更成熟的 LISP? 原书给出三个理由:五代机的目标是 知识信息处理(当时的语境=专家系统+自然语言理解),Prolog 覆盖面最广; 在小规模基准上 Prolog 当数据库查询语言不输关系代数;以及——Prolog 不是美国人 发明的,日本人更有机会掌控17

3.6 溃败:两种死法

专家系统的死法:被成本淘汰。 规则要靠"知识工程师"人肉提炼,一个领域一套规则, 知识库一大利推理就得更专用才能高效(原书的公式:知识=公理,公理越多, 推理步骤越少,但知识库的构建成本越高)18。日本五代机失败后,"专家系统" 五个字直接变成负面词。

五代机的死法:被时代淘汰。 预算并不巨(十年 4.5 亿美元起步,总投入预期 8.5-10 亿; 对照:IBM 一年研发经费就有 15 亿)19。真正的溃败信号在会议录的厚度上: 1981 年首届会议录 280 多页,1988 年变成三大卷 1300 页——"五代机成了大杂烩, 失去了聚焦点,八竿子打不着的领域争相向五代机靠拢"20。原书借休伊特的批评 点了技术死因:大部分工作只是用逻辑程序去解早已被解决的问题,而且逻辑编程和并行性 是天生一对不可调和的矛盾——而五代机的核心卖点恰恰是并行21

对照阅读:英国阿尔维计划(2.5 亿英镑,1987 年放弃)、欧洲 ESPRIT 同期退火, 全世界的"追赶型大科学项目"几乎同步死亡。原书补了一个容易被忽略的观察: 五代机后期恰好赶上互联网崛起——信息高速公路的影响是全社会的,五代机的影响 只在技术圈内,胜负在项目开始前就已经由"谁更重要"决定了22

遗产清单(溃败不等于清零):规则引擎(改名活着的专家系统)、DFKI(德国 1988 年 成立至今的 AI 研究重镇)、MCC 的 Cyc(知识图谱雏形)、Thinking Machines 的希利斯 后来创办 Metaweb——被谷歌收购改造成 Freebase,再变成知识图谱23。 以及一个国家层面的教训:福岛邦彦(CNN——一类专看图像的神经网络的源头)和甘利俊一在壮年时, 日本把钱全投给了五代机,神经网络先驱没赶上自己的时代24

4. 作者的判断与证据

史实层:DENDRAL/MYCIN/XCON 的日期与数字、五代机的预算与会议录厚度、 各国计划的起止,均有一手文献(项目报告、会议录、当事人访谈)支撑。

作者观点层(要分开):

  • 费根鲍姆借五代机在日本的高出镜"为自己在美国拉到不少军方科研经费"—— 原书明确质疑其动机:"'知识'不仅是力量,也是权力"25;
  • 日本失败的一个被忽视的原因:主要负责人都没有海外留学背景,精神支柱更多是 民族主义——这是作者的社会学解释,不是项目报告里的结论26;
  • 对语义网的评价("开了一个坏头,是灾难")是作者的风格化判断,W3C 方向自有其辩护者。

原书自己注明存疑处:XCON 省钱数字三个版本并存,原书照录不定案5; "如果有今天的语义网和知识图谱大数据,五代机的结局会很不同"是日本学者的马后炮, 原书回敬"历史没法马后炮"27

5. 边界与局限

  • 本章没有覆盖专家系统的技术细节(MYCIN 的置信度组合公式、Rete 算法的网络结构), 原书是史书不是教材;要用规则引擎请另配工程资料。
  • "知识图谱"今天的内涵已经变化:2012 年后的知识图谱工程大量使用"把词变成一串数"的表示(第 04 章)和画在图上的神经网络,与本章的符号谱系只有部分重叠——原书在第 3 章末尾 点了这一融合(画在图上的神经网络做链接预测与图谱补全)28,但不展开。
  • 五代机的"失败"有争议:MCC 国际合作总监伊顿认为它促成了 80 年代中后期的 AI 繁荣、提升了日本形象,并非全败;原书引了这方观点再反驳,读者应两案并听27
  • Prolog 并没有死:它活在约束求解、某些数据库查询语言(Datalog——里面允许递归,即查询的结果还能再被查询引用)与标准里; 原书说"逻辑程序设计的一些思想在后来的知识图谱研究中也有体现"29

6. 可带走的

  1. 专家系统的模板三件套:专家知识 → 规则 → 推演;它真正的发明是不精确推理 (规则带置信度),不是"规则"本身;
  2. 推理与知识分离是符号派工程的标志,源头在定理证明(公理集合 vs 证明器);
  3. MYCIN 的 69% 对专科的 80%:窄领域的 AI 可以逼近专家、超过非专家, 但"从未临床"——准到什么程度才准进场,是至今未变的问题;
  4. 判断旧技术死没死,先查它有没有改名:专家系统→规则引擎;同类的改名术还有 黑板系统→多 Agent 系统(原书第 8 章一笔带过);
  5. 知识表示的进化链:框架(类型继承)→ 语义网络 → 描述逻辑(可判定的一阶逻辑子集) → 知识图谱;今天的"实体-关系"数据模型就是这条链的活化石;
  6. 逻辑程序把"怎么做"换成"是什么":声明式编程的思想今天活在 SQL(数据库的标准查询语言)、 正则引擎与各种规则引擎里;
  7. 大科学项目死于"聚焦点涣散":会议录从 280 页涨到 1300 页、人人往里靠拢, 是溃败的领先信号——判断任何宏大项目,先看它的边界还在不在;
  8. 日本教训的另一个名字是机会成本:钱投给五代机的年代,正是 CNN 先驱 福岛邦彦们最该被资助的年代。

7. 原文地图

主题原书章原文位置
DENDRAL 三人合作第3章 从专家系统到知识图谱text/07-ch03.txt:31(搜「莱德伯格」) · text/07-ch03.txt:60(搜「DENDRAL」)
MYCIN 69% 对 80%第3章 从专家系统到知识图谱text/07-ch03.txt:107(搜「69%」)
从未临床、EMYCIN第3章 从专家系统到知识图谱text/07-ch03.txt:118(搜「临床」) · text/07-ch03.txt:119(搜「EMYCIN」)
纽厄尔认 MYCIN 为鼻祖第3章 从专家系统到知识图谱text/07-ch03.txt:114(搜「鼻祖」)
XCON 8 万订单、省钱是谜第3章 从专家系统到知识图谱text/07-ch03.txt:130(搜「8万个订单」) · text/07-ch03.txt:132(搜「4000万」)
Rete/OPS、改名规则引擎第3章 从专家系统到知识图谱text/07-ch03.txt:136(搜「Rete」) · text/07-ch03.txt:142(搜「规则引擎」)
框架=类型、面向对象第3章 从专家系统到知识图谱text/07-ch03.txt:217(搜「框架」) · text/07-ch03.txt:237(搜「面向客体」)
描述逻辑 ABox/TBox/RBox 例子第3章 从专家系统到知识图谱text/07-ch03.txt:174(搜「描述逻辑」) · text/07-ch03.txt:176(搜「ABox」) · text/07-ch03.txt:185(搜「Lawfirm」) · text/07-ch03.txt:196(搜「祖父」)
梁启超儿媳妇例子第8章 自然语言处理text/12-ch08.txt:643(搜「梁启超」)
米勒词网、金丝雀反应时间第3章 从专家系统到知识图谱text/07-ch03.txt:206(搜「金丝雀」) · text/07-ch03.txt:211(搜「词网」)
Cyc 与知识原则第3章 从专家系统到知识图谱text/07-ch03.txt:263(搜「Cyc」) · text/07-ch03.txt:264(搜「知识原则」) · text/07-ch03.txt:267(搜「一千万条规则」)
Cyc 临界点遁词第3章 从专家系统到知识图谱text/07-ch03.txt:290(搜「临界点」)
语义网与诺维格发难第3章 从专家系统到知识图谱text/07-ch03.txt:222(搜「语义网」) · text/07-ch03.txt:337(搜「诺维格」)
谷歌知识图谱、Freebase第3章 从专家系统到知识图谱text/07-ch03.txt:350(搜「Freebase」) · text/07-ch03.txt:352(搜「知识图谱」) · text/07-ch03.txt:353(搜「维基数据」)
沃森底层是 YAGO+DBpedia第3章 从专家系统到知识图谱text/07-ch03.txt:366(搜「沃森的底层」)
知识=公理、狭义对广义第3章 从专家系统到知识图谱text/07-ch03.txt:380(搜「公理越多」) · text/07-ch03.txt:381(搜「狭义」)
图神经网络融合第3章 从专家系统到知识图谱text/07-ch03.txt:389(搜「图神经网络」)
元冈达报告、体系结构分代第4章 第五代计算机的教训text/08-ch04.txt:17(搜「元冈达」) · text/08-ch04.txt:25(搜「89页」)
Prolog 的由来(科瓦尔斯基/马赛)第4章 第五代计算机的教训text/08-ch04.txt:76(搜「歪打没正着」) · text/08-ch04.txt:109(搜「科莫饶尔」) · text/08-ch04.txt:113(搜「Horn子句」)
沃伦抽象机、算法=逻辑+控制第4章 第五代计算机的教训text/08-ch04.txt:121(搜「沃伦抽象机」) · text/08-ch04.txt:124(搜「算法=逻辑+控制」)
Datalog=关系数据库+递归第4章 第五代计算机的教训text/08-ch04.txt:133(搜「Datalog」)
选 Prolog 的理由(含非美国造)第4章 第五代计算机的教训text/08-ch04.txt:60(搜「Prolog覆盖的面最广」) · text/08-ch04.txt:64(搜「不是美国人发明的」)
预算与 IBM 对照第4章 第五代计算机的教训text/08-ch04.txt:159(搜「4.5亿」) · text/08-ch04.txt:163(搜「15亿」)
并发 Prolog、KL1第4章 第五代计算机的教训text/08-ch04.txt:205(搜「并发Prolog」) · text/08-ch04.txt:226(搜「KL1」)
会议录 280 页对 1300 页、大杂烩第4章 第五代计算机的教训text/08-ch04.txt:362(搜「280」) · text/08-ch04.txt:364(搜「大杂烩」)
休伊特批评:逻辑与并行不可调和第4章 第五代计算机的教训text/08-ch04.txt:370(搜「休伊特」) · text/08-ch04.txt:374(搜「不可调和」)
阿尔维、ESPRIT、DFKI第4章 第五代计算机的教训text/08-ch04.txt:326(搜「阿尔维」) · text/08-ch04.txt:346(搜「ESPRIT」) · text/08-ch04.txt:358(搜「DFKI」)
互联网夺走光芒第4章 第五代计算机的教训text/08-ch04.txt:390(搜「信息高速公路」)
遗产:Metaweb→Freebase第4章 第五代计算机的教训text/08-ch04.txt:238(搜「Metaweb」) · text/08-ch04.txt:241(搜「Cyc恰是知识图谱的雏形」)
福岛邦彦没赶上好时候第4章 第五代计算机的教训text/08-ch04.txt:410(搜「福岛邦彦」) · text/08-ch04.txt:411(搜「没赶上好时候」)
费根鲍姆借日本拉经费第4章 第五代计算机的教训text/08-ch04.txt:288(搜「新政」) · text/08-ch04.txt:293(搜「也是权力」)
负责人无留学背景、民族主义第4章 第五代计算机的教训text/08-ch04.txt:388(搜「海外留学」) · text/08-ch04.txt:388(搜「精神支柱更多的是民族」)
伊顿的反驳与马后炮第4章 第五代计算机的教训text/08-ch04.txt:384(搜「伊顿」) · text/08-ch04.txt:387(搜「马后炮」)
逻辑程序思想进知识图谱第4章 第五代计算机的教训text/08-ch04.txt:430(搜「知识图谱」)

Footnotes

  1. 出处:「第3章 从专家系统到知识图谱」第 31 段(text/07-ch03.txt:31,搜「莱德伯格」)与第 60 段(搜「DENDRAL」)。原文:"费根鲍姆团队捕捉翟若适团队的化学分析知识,把知识提炼成规则"。

  2. 出处:「第3章 从专家系统到知识图谱」第 107 段(text/07-ch03.txt:107,搜「69%」)与第 118-119 段(搜「EMYCIN」)。

  3. 出处:「第3章 从专家系统到知识图谱」第 114 段(text/07-ch03.txt:114,搜「鼻祖」)。原文:纽厄尔"认为MYCIN才是专家系统的鼻祖,因为MYCIN首创了后来作为专家系统要素的产生式规则——不精确推理"。

  4. 出处:「第2章 自动定理证明兴衰纪」第 624 段(text/06-ch02.txt:624,搜「重新包装」)。

  5. 出处:「第3章 从专家系统到知识图谱」第 130 段(text/07-ch03.txt:130,搜「8万个订单」)与第 132 段(搜「4000万」)。 2 3

  6. 出处:「第3章 从专家系统到知识图谱」第 136 段(text/07-ch03.txt:136,搜「Rete」)。

  7. 出处:「第3章 从专家系统到知识图谱」第 142 段(text/07-ch03.txt:142,搜「规则引擎」)与第 143 段(搜「FICO」)。

  8. 出处:「第3章 从专家系统到知识图谱」第 217 段(text/07-ch03.txt:217,搜「框架」)与第 220 段(搜「面向客体」)。

  9. 出处:「第3章 从专家系统到知识图谱」第 174 段(text/07-ch03.txt:174,搜「描述逻辑」)与第 176 段(搜「ABox」)、第 185 段(搜「Lawfirm」)、第 198 段(搜「祖父」)。描述逻辑是"被约束的一阶逻辑的子集"这一说法见「第2章 自动定理证明兴衰纪」第 626-627 段(text/06-ch02.txt:627,搜「被约束的一阶逻辑的子集」)。

  10. 出处:「第8章 自然语言处理」第 643 段(text/12-ch08.txt:643,搜「梁启超」)。

  11. 出处:「第3章 从专家系统到知识图谱」第 263 段(text/07-ch03.txt:263,搜「Cyc」)、第 265 段(搜「知识原则」)、第 267 段(搜「一千万条规则」)与第 290 段(搜「临界点」)。

  12. 出处:「第3章 从专家系统到知识图谱」第 337 段(text/07-ch03.txt:337,搜「诺维格」)与第 340-341 段(搜「大杂烩」)。

  13. 出处:「第3章 从专家系统到知识图谱」第 350-353 段(text/07-ch03.txt:350,搜「Freebase」)。Freebase 有 4000 万个实体表示、维基百科 2016 年文章 1000 万篇的对照在同段。

  14. 出处:「第4章 第五代计算机的教训」第 17 段(text/08-ch04.txt:17,搜「元冈达」)与第 26 段(搜「89页」)。

  15. 出处:「第4章 第五代计算机的教训」第 76 段(text/08-ch04.txt:76,搜「歪打没正着」)、第 109 段(搜「科莫饶尔」)、第 113 段(搜「Horn子句」)、第 121 段(搜「沃伦抽象机」)与第 124 段(搜「算法=逻辑+控制」)。

  16. 出处:「第4章 第五代计算机的教训」第 215 段(text/08-ch04.txt:215,搜「一个个地去证明」)。原文给出串行 Prolog 的语义:"要证明A,在规则库中有 A←B1&B2&...&Bn,那么就一个个地去证明Bi";AND/OR 并行性的定义见第 215-217 段。走查中的祖父示例为演示编的,展示的是原文说明的子目标消解机制。

  17. 出处:「第4章 第五代计算机的教训」第 60 段(text/08-ch04.txt:60,搜「Prolog覆盖的面最广」)与第 64 段(搜「不是美国人发明的」)。

  18. 出处:「第3章 从专家系统到知识图谱」第 380 段(text/07-ch03.txt:380,搜「公理越多」)与第 384 段(搜「学习门槛最低」)。

  19. 出处:「第4章 第五代计算机的教训」第 159 段(text/08-ch04.txt:159,搜「4.5亿」)与第 162 段(搜「15亿」)。

  20. 出处:「第4章 第五代计算机的教训」第 362 段(text/08-ch04.txt:362,搜「280」)与第 364 段(搜「大杂烩」)。

  21. 出处:「第4章 第五代计算机的教训」第 370 段(text/08-ch04.txt:370,搜「休伊特」)与第 373 段(搜「不可调和」)。

  22. 出处:「第4章 第五代计算机的教训」第 390 段(text/08-ch04.txt:390,搜「信息高速公路」)。

  23. 出处:「第4章 第五代计算机的教训」第 238 段(text/08-ch04.txt:238,搜「Metaweb」)与第 240 段(搜「知识图谱的雏形」);DFKI 见第 358 段(text/08-ch04.txt:358,搜「DFKI」)。

  24. 出处:「第4章 第五代计算机的教训」第 410-411 段(text/08-ch04.txt:410,搜「福岛邦彦」)。

  25. 出处:「第4章 第五代计算机的教训」第 288 段(text/08-ch04.txt:288,搜「新政」)与第 293 段(搜「也是权力」)。

  26. 出处:「第4章 第五代计算机的教训」第 388 段(text/08-ch04.txt:388,搜「海外留学」)与第 388 段(搜「民族主义」)。

  27. 出处:「第4章 第五代计算机的教训」第 384 段(text/08-ch04.txt:384,搜「伊顿」)与第 386 段(搜「马后炮」)。 2

  28. 出处:「第3章 从专家系统到知识图谱」第 389 段(text/07-ch03.txt:389,搜「图神经网络」)。

  29. 出处:「第4章 第五代计算机的教训」第 430 段(text/08-ch04.txt:430,搜「知识图谱」)。