跳到主要内容

信仰与谢幕 — AGI 圈、一场辩论、魔方手的真相,与图灵奖

这一章讲四件事: 「反炒作」阵营怎么形成,以及 OpenAI 是怎样在一周内诞生的; 马库斯与杨立昆那场公开辩论,两边的论据各是什么、谁被后来的事实打脸; OpenAI 从「非营利、开放一切」到章程转向、拿微软 10 亿美元的变形记, 连同魔方手演示的真相;最后,这本书怎么谢幕——图灵奖、胶囊网络, 和辛顿那句「我认为历史会重演」。 这是全书的终点,也是它留下的最大悬案:当信仰成为这个行业的主要驱动力, 该用什么去校准它?

1. 顶层全景:恐惧与信仰,是同一枚硬币​

2014 年 11 月 14 日,马斯克在 Edge.org 网站上发了一段话(约一小时后删除): 「除非你直接接触过像 DeepMind 这样的团队……否则你不知道它的发展速度有多快」 ——他估计「5 年、最多 10 年的时间内,有发生严重危险事件的风险」1。 这条消息的源头是一条清晰的思想谱系:

  波斯特洛姆(牛津哲学家,《超级智能》作者)
    └─ 回形针思想实验:一个目标是「生产尽可能多回形针」的机器,
       会把整个地球乃至太空都变成回形针生产设施——
       目标无害,能力致命[^2]
       └─→ 影响 DeepMind 联合创始人沙恩·莱格、影响马斯克
  马斯克 2014 年公开警告 → 2015 年 1 月波多黎各闭门峰会
    (效仿 1975 年阿西洛马会议;遵循查塔姆宫守则:与会者
     不得对外透露任何人的发言[^3])
    └─ 马斯克当场承诺 1,000 万美元用于人工智能安全研究
       (几天后他的火箭着陆坠毁,他在 Twitter 上公布了这笔资助)[^4]
       └─→ 半年后,Rosewood 酒店的一顿晚饭,OpenAI 诞生(§2)

同一时期佩奇的态度是正对面:他在纳帕晚宴上为「数字乌托邦主义」辩护, 指责马斯克是「物种主义者」——偏爱碳基生命胜过硅基生命2。 「反炒作」一章的名字由此而来:对深度学习的技术怀疑(第 05 章那些) 已经基本被解决;剩下的争论是——它来得太快,是好是坏。

2. OpenAI 的一周:三顿饭与一间实验室​

第一顿(2015 年春,Rosewood 酒店): 布罗克曼——26 岁、从 MIT 辍学、 Stripe 前首席技术官——和 YC 总裁阿尔特曼攒了一桌饭,请来了萨特斯基弗。 他们想造一间与谷歌、Facebook 抗衡的实验室3。布罗克曼先去请教本吉奥; 本吉奥自己拒绝下场(他要留在学术界),但列出了一份 「整个圈子里有前途的年轻研究人员」的名单4。

第二顿(纳帕谷): 布罗克曼租了一辆大巴,把候选人从旧金山拉到葡萄酒之乡。 他给了他们三周时间考虑——三周之后,10 个人里有 9 个同意了5。 他们给实验室起名 OpenAI:非营利,公开分享所有研究成果, 这样「任何人都可以与谷歌和 Facebook 竞争」6。

钱的对价立刻显形: 扎伦巴回忆,他同意加入后谷歌和 Facebook 的报价 「近乎疯狂」——是他市场身价的两到三倍7;萨特斯基弗在谷歌第一年 薪酬接近 200 万美元,也是 OpenAI 的两到三倍——马斯克亲自发短信 劝了他好几天8。

第三场(NIPS,蒙特利尔,2015 年 12 月): 在参会人数接近 4,000 的 大会上宣布成立9。当晚 Facebook 的派对结束前,杨立昆在电梯旁拦住 萨特斯基弗,一口气给出 10 多条理由——人太年轻、没有经验、非营利赚不到钱、 长期争不到人才、公开分享并不稀罕(Facebook 早就在更大的圈子里这么干了)—— 最后说:「你会失败的。」10 DeepMind 的哈萨比斯和莱格则觉得被出卖: 被自己公司的投资人(马斯克)和被 OpenAI 招募的研究人员双重出卖11。

阿尔特曼当时的愿景是:「很多人工智能更有可能去阻止偶尔出现的坏人。」 原书在此处插了一句少有的直接判语——这一愿景「最终被证明完全不切实际」12。

3. 辩论:深度学习到底够不够​

导火索是 2018 年 5 月谷歌 I/O 上的 Duplex 演示: 机器打电话订餐厅, 对答里带「嗯嗯」这样的语气词,满场掌声——随后舆论反弹:机器该不该 冒充人?谷歌承诺它会自报身份13。心理学家盖瑞·马库斯在《纽约时报》 发社论泼冷水:「谷歌 Duplex 之所以范围如此狭窄……是因为人工智能领域 还不知道如何做得更好。」——只能订餐厅,不是不想做别的,是做不到14。

两边的立场,用一张表摆平:

马库斯(先天论)杨立昆(经验主义)
知识从哪来大部分先天预置,学习只是触发几乎全部从经验中学
对深度学习「辛顿制作了一个更好的梯子,但更好的梯子无法让你登上月球」15梯子在变长,而且没人证明它到不了
证据儿童从一两个例子就能学会;AlphaGo 只会下棋,「在任何其他情况下都毫无用处」16数据与算力每扩大一次,旧怀疑就失效一次
行动「论文三部曲」+《重启人工智能》+ 创立几何智能17继续造更大的梯子

2017 年秋纽约大学的辩论会上,马库斯的总结陈词是:「如果说神经网络 教会了我们什么,那就是纯粹的经验主义有其局限性。」18 杨立昆的反击在 Twitter 上:「准确来说,盖瑞·马库斯提出过的有价值的 建议的数量是零。」19

然后是那个经典的打脸时刻。 艾伦人工智能研究所拿八年级科学测试考机器, 长期过不了;一道样题是「舞台上,一位女士坐在钢琴前。她——」, 人类能填对 88% 以上,机器约 60%20。2018 年秋,谷歌公布 BERT: 一个靠读海量文本学会「猜句子里被挖掉的词」的系统(比如 「这个人____这辆车,因为它很便宜」)。两个月后,基于 BERT 的系统 就追平了人类水平,埃齐奥尼的团队随后让它通过了八年级科学测试21。 马库斯依然不认输:「这些系统离真正理解散文还有很长的路要走」; 辛顿的回应是给这个争论定了一个期限:「它没有技术含量,所以永远不会过时…… 无论快速发展能持续多久,马库斯都会认为它即将结束。」22

4. 主走查:魔方手——从虚拟一万年到 20% 成功率​

OpenAI 的两大目标是「引人注目的演示」:游戏与机器人。2019 年秋, 他们发布了一只五指机器手复原魔方的视频,刷屏一时。把这场演示拆成 「给公众看的」和「论文里写的」两半,是理解这个时代最好的练手材料:

  演示里看到的                论文与小字里写的(原书去核了)
  ──────────────              ──────────────────────────────
  一只手灵巧地转动魔方,        机器手上装着微型发光二极管和传感器,
  最终复原                     否则无法追踪每根手指每刻的位置[^26]
                              
  「自动学会」                 在虚拟环境里试了相当于数万年
                               的数字试错(第 09 章:虚拟「一万年」+
                               随机变换物理参数)[^27]
                              
  一次优雅的复原               真实成功率 20%——
                               「10 次有 8 次魔方会掉」[^28]
                              
  (对照物)                    专用魔方设备复原只需不到 1 秒;
                               这只手要约 4 分钟,且 5 次里掉 4 次

  图说:演示是真的,但它是从大量掉落里剪出来的那一次。
  技术真实、叙事失真——两者可以同时成立。

为什么 OpenAI 要这样做? 原书的判断很直接:「引人注目的演示是他们的 命根子。」实验室烧钱而没有产品,演示是它向出资人证明进展的货币。 几乎同时期 DeepMind 用 45 万局《雷神之锤 3》夺旗赛(相当于 4 年多的 游戏时间压缩进几周)训练出击败人类的智能体(在游戏里自主行动的程序),又进军《星际争霸》—— 批评者里德尔指出:三维游戏把导航变简单了,「每个智能体都有超人的 游戏知识,但它们一点儿也不智能」23。游戏里的智能与现实的智能之间 隔着的那层东西,正是第 09 章拣货机器人撞上的同一堵墙。

5. 信仰的组织化:章程、10 亿美元与「计算海啸」​

阿尔特曼的信仰从何而来,原书给了三段素材: 他创办的 Loopt 拿到 3,000 万美元风投、7 年后亏本出售关闭——失败没有动摇他;他自述 「自信的力量非常强大……对自己的信任几乎到了妄想的地步」; 参观 SpaceX 工厂后,他把那叫做「信念的基准」——马斯克敢造火箭, 他就敢造 AGI;他常引马基雅维利:「要犯野心的错误,而不是懒惰的错误。」24

转向发生在 2018 年: OpenAI 发布新章程,使命与创立时「截然不同」25; 同年马斯克离开(第 09 章);随后 GPT-2 以「太危险不能发布」为由分批放出—— 研究界普遍嗤之以鼻,认为那更像营销,而它最终还是完整发布了26; 2019 年,实验室重组为营利公司,接受微软 10 亿美元投资—— 其中大部分以 Azure 算力的形式回流微软;纳德拉称之为 「志向远大的北极星」27。阿尔特曼估算,要达成目标还需要 250 亿~500 亿美元28——参照物:谷歌同期在 DeepMind 累计投入的 研究经费约 12 亿美元29。

信仰的终点图景由萨特斯基弗给出: 他称之为「计算海啸」—— 用不了太长时间,「整个地球的表面就会被数据中心和发电站覆盖」; 而一旦有了第一个运行着超人智能的数据中心,「你向它提出的第一个问题 会是,你能去打造另一个吗?」30

6. 谢幕:金字塔、图灵奖与「历史会重演」​

最后一章,辛顿给原书作者做了一个实验:把一座金字塔锯成两半, 递给两位麻省理工的终身教授,问能否装回去。看似简单,结果一位 拒绝尝试,另一位论证了为什么这不可能31。辛顿的用意是: 人理解三维物体的方式与机器根本不同——神经网络看几千张侧面拍的 咖啡杯照片能学会认咖啡杯,但它认不出一个倒置的咖啡杯,因为它 只看二维、没有三维视角32。他的答案是他从 70 年代末就惦记的 老想法——胶囊网络:让机器像人一样带着三维视角去看世界, 2017 年秋他与萨布尔(第 10 章那位被拒签的伊朗研究者)造出了原型, 从不熟悉的角度识别物体时超过了普通网络33。他对作者说: 「我认为历史会重演。」34——就像当年所有人说神经网络行不通, 而它只是还没到时间。

2019 年 3 月 27 日,辛顿、杨立昆、本吉奥同获图灵奖,三人 「以三种使用方式分享了这笔奖金」35。颁奖典礼 500 多位宾客; 辛顿已经 15 年没坐下来过,站着读完了卡片36。本吉奥致辞: 「他们首先是我的榜样,然后是我的导师,再之后是我的朋友和 『犯罪同伙』。」又补了一句:「我们获得了荣誉,但荣誉也伴随着责任。 我们的工具有好的用途,也有坏的。」37 杨立昆——三人中唯一穿燕尾服的—— 说获奖改变了他处境的方式:「以前,我习惯了人们跟我说我错了, 现在,我必须小心,因为没有人敢对我这么说了。」38 杰基——辛顿的妻子——在颁奖前几个月去世,辛顿提到她时失声39。

辛顿的图灵演讲还在抬杠:他说有三种学习方法,但第三种 (强化学习)「不太有效」——台下坐着 DeepMind 的人,他马上自己拆台: 「强化学习有一个奇妙的反证……那就是 DeepMind。」40 问到对通用人工智能的信仰是否像宗教,他答:「它远没有宗教那么黑暗。」41 原书结尾,他给出的临别建议是全书流传最广的一句话: 「如果你有一个想法,并且在你看来它确定无疑是正确的,那么, 不要听别人说这很愚蠢,你应该直接忽略他们。」42

7. 作者的判断与证据​

书里给了证据的: Edge.org 消息与删除、波多黎各峰会的承诺金额、 OpenAI 创立的三顿饭(当事人回忆)、报价倍数、杨立昆的 10 条理由 (萨特斯基弗转述)、BERT 的前后时间线、魔方手的发光二极管与 「10 次 8 次掉」(OpenAI 自己的论文与说明)、微软 10 亿、图灵奖现场。

要分开标的:

  • 「这一愿景最终被证明完全不切实际」——作者本人的判语, 原书罕见地在正文里直接下注;以成书后 GPT-2 未开源又开源、 实验室转营利的事实为据;
  • 「引人注目的演示是他们的命根子」——作者的归因,OpenAI 不会这么说自己;
  • 塔林评马斯克「他理解问题的基本状况……也真的很享受媒体的关注」—— 盟友的带保留评价,比敌人的批评更值钱,引用时标来源;
  • 「要么走向超级智能,要么走向文明的终结」(马斯克在阿西洛马故地 圆桌上的话)与哈萨比斯「没有物理定律能阻止通用人工智能的实现」—— 都是当事人的信仰声明,不是书的结论;书的结论藏在结构里: 把这些声明与「10 次掉 8 次」放在同一章。

8. 边界与局限​

  • 成书于 2021 年,信仰章的命运没写完: GPT-3 已发布但 ChatGPT、 GPT-4、对齐之争都在书外;「非营利开放一切」愿景的后续(OpenAI 的 进一步公司化)远超原书的记述;
  • 辩论没有裁决: 马库斯与杨立昆谁对,原书把 BERT 当作阶段性证据, 但「理解散文」的更深指控到书末仍悬着——这层诚实的悬而未决要保留, 别替作者结案;
  • 魔方手一节只核了一家之言: 「10 次掉 8 次」出自 OpenAI 自己的披露, 独立复现几乎没有;原书用它说明叙事与现实的距离,这个数字本身也是 被叙事放出来的一面;
  • 信仰圈的内部声音单一: 波多黎各、Rosewood、纳帕的参与者高度重叠, 原书的信源也高度重叠——圈外怎么看这场运动,书里着墨很少。

9. 可带走的​

  1. 思想有谱系: 回形针 → 马斯克警告 → 波多黎各 → OpenAI—— 评估任何 AI 风险言论,先问它在这条谱系的哪一环;
  2. OpenAI 的三顿饭模板: 攒局者(布罗克曼/阿尔特曼)+ 技术旗帜 (萨特斯基弗)+ 名单(本吉奥)+ 钱(马斯克/后来的微软)—— 此后十年 AI 实验室的创立几乎都按这个配方;
  3. 辩论的正确用法: 不站队,盯双方的可证伪点——马库斯说 「做不到八年级科学测试」,BERT 两个月追平,这一分判给了经验主义; 「真正理解散文」仍未裁决;
  4. 演示三问: 成功率多少?试了多少次?传感器里藏了什么? ——魔方手(20%、数万年、发光二极管)是这三个问题的标准教案;
  5. 「信念的基准」是这把双刃剑的名字: 它让 OpenAI 敢要 500 亿, 也让它把 80% 的失败率剪成一条优雅视频;
  6. 辛顿的最后一课: 金字塔实验说「机器还没有人的三维视角」, 「历史会重演」说「别急着宣布它永远不会有」——对一个领域最诚实的 致敬方式,是立刻去找它的下一个盲区。

10. 原文地图​

主题原书章原文位置
马斯克 Edge.org 消息、5~10 年09 反炒作text/11-p201-220.txt:5(搜「Edge.org」) · text/11-p201-220.txt:13(搜「严重危险」)
波斯特洛姆、回形针09 反炒作text/11-p201-220.txt:43(搜「波斯特洛姆」) · text/11-p201-220.txt:54(搜「回形针」)
波多黎各峰会、查塔姆宫守则09 反炒作text/11-p201-220.txt:205(搜「2015 年的第一个星期天」) · text/11-p201-220.txt:217(搜「查塔姆宫」)
1,000 万美元、火箭坠毁后公布09 反炒作text/11-p201-220.txt:213(搜「1,000 万美元」) · text/11-p201-220.txt:221(搜「坠毁」)
佩奇「物种主义者」09 反炒作text/11-p201-220.txt:252(搜「数字乌托邦主义」) · text/11-p201-220.txt:259(搜「物种主义者」)
Rosewood 晚餐、本吉奥名单09 反炒作text/11-p201-220.txt:265(搜「Rosewood」) · text/11-p201-220.txt:313(搜「本吉奥」)
纳帕大巴、10 人 9 人、命名09 反炒作text/11-p201-220.txt:330(搜「大巴车」) · text/11-p201-220.txt:348(搜「9 个人同意」)
非营利、对抗大公司09 反炒作text/11-p201-220.txt:345(搜「非营利」) · text/11-p201-220.txt:392(搜「偶尔出现的坏人」)
扎伦巴报价、萨特斯基弗 200 万09 反炒作text/11-p201-220.txt:359(搜「两到三倍」) · text/11-p201-220.txt:371(搜「200 万美元」)
NIPS 宣布、杨立昆 10 条理由09 反炒作text/11-p201-220.txt:364(搜「4,000」) · text/11-p201-220.txt:419(搜「10 多条」) · text/11-p201-220.txt:428(搜「你会失败的」)
哈萨比斯觉得被出卖09 反炒作text/11-p201-220.txt:406(搜「出卖」)
Duplex、「嗯嗯」、马库斯社论18 辩论text/17-p321-340.txt:235(搜「Duplex」) · text/17-p321-340.txt:241(搜「嗯嗯」) · text/17-p321-340.txt:263(搜「范围如此狭窄」)
先天论 vs 经验主义、梯子18 辩论text/17-p321-340.txt:267(搜「先天」) · text/17-p321-340.txt:291(搜「更好的梯子」)
辩论会、毫无用处18 辩论text/17-p321-340.txt:344(搜「纯粹的经验主义」) · text/17-p321-340.txt:351(搜「毫无用处」)
论文三部曲、杨立昆推特18 辩论text/17-p321-340.txt:385(搜「三部曲」) · text/17-p321-340.txt:400(搜「有价值的建议」)
钢琴题 88%/60%、BERT18 辩论text/17-p321-340.txt:458(搜「钢琴」) · text/18-p341-360.txt:4(搜「88%」) · text/18-p341-360.txt:7(搜「BERT」) · text/18-p341-360.txt:46(搜「八年级」)
马库斯不认输、辛顿定期限18 辩论见脚注 22
《西部世界》放映、米尔纳20 信仰text/18-p341-360.txt:356(搜「西部世界」) · text/18-p341-360.txt:365(搜「卢瓦尔堡」)
祝酒、情感上愿意相信20 信仰text/19-p361-380.txt:4(搜「干杯」) · text/19-p361-380.txt:21(搜「情感上愿意相信」)
阿西洛马圆桌、半机械人20 信仰text/19-p361-380.txt:43(搜「超级智能是否可能出现」) · text/19-p361-380.txt:48(搜「文明的终结」) · text/19-p361-380.txt:53(搜「半机械人」)
Loopt、自信、SpaceX、马基雅维利20 信仰text/19-p361-380.txt:82(搜「Loopt」) · text/19-p361-380.txt:113(搜「自信的力量」) · text/19-p361-380.txt:120(搜「SpaceX」) · text/19-p361-380.txt:134(搜「马基雅维利」)
2018 章程、GPT-2「太危险」20 信仰text/19-p361-380.txt:153(搜「章程」) · text/19-p361-380.txt:168(搜「太危险」)
雷神之锤 45 万局、里德尔批评20 信仰text/19-p361-380.txt:202(搜「45 万局」) · text/19-p361-380.txt:242(搜「里德尔」)
魔方手:发光二极管、8/10 掉、数万年20 信仰text/19-p361-380.txt:255(搜「发光二极管」) · text/19-p361-380.txt:260(搜「8 次」) · text/19-p361-380.txt:261(搜「数万年」)
微软 10 亿、北极星20 信仰text/19-p361-380.txt:282(搜「10 亿美元」) · text/19-p361-380.txt:286(搜「北极星」)
250~500 亿、12 亿、计算海啸20 信仰text/19-p361-380.txt:294(搜「250 亿」) · text/19-p361-380.txt:351(搜「12 亿美元」) · text/19-p361-380.txt:307(搜「计算海啸」)
物理定律(哈萨比斯)20 信仰text/19-p361-380.txt:388(搜「物理定律」)
金字塔两半21 未知因素text/19-p361-380.txt:399(搜「金字塔的两半」)
倒置咖啡杯、胶囊网络21 未知因素text/19-p361-380.txt:422(搜「倒置」) · text/19-p361-380.txt:424(搜「胶囊网络」)
「历史会重演」21 未知因素text/19-p361-380.txt:392(搜「历史会重演」) · text/19-p361-380.txt:443(搜「历史会重演」)
图灵奖、三种使用方式、500 宾客21 未知因素text/19-p361-380.txt:445(搜「3 月 27 日」) · text/19-p361-380.txt:453(搜「三种使用方式」) · text/19-p361-380.txt:469(搜「500 多位客人」)
站着读卡片21 未知因素text/20-p381-400.txt:5(搜「站在讲台旁边」)
本吉奥「犯罪同伙」、责任21 未知因素text/20-p381-400.txt:13(搜「犯罪同伙」) · text/20-p381-400.txt:30(搜「荣誉」)
杨立昆燕尾服、「没有人敢」21 未知因素text/20-p381-400.txt:42(搜「燕尾服」) · text/20-p381-400.txt:48(搜「敢对我这么说」)
杰基、失声21 未知因素text/20-p381-400.txt:69(搜「失声」)
三种学习方法、反证21 未知因素text/20-p381-400.txt:77(搜「有两种学习方法」) · text/20-p381-400.txt:81(搜「奇妙的反证」)
「远没有宗教那么黑暗」21 未知因素text/20-p381-400.txt:106(搜「远没有宗教那么黑暗」)
临别建议「忽略他们」21 未知因素text/20-p381-400.txt:3(搜「直接忽略他们」)

Footnotes​

  1. 出处:「09 反炒作」(text/11-p201-220.txt:5,搜「Edge.org」)与(text/11-p201-220.txt:13,搜「严重危险」)。2014 年 11 月 14 日发布,约一小时后删除。 ↩

  2. 出处:同章(text/11-p201-220.txt:252,搜「数字乌托邦主义」)与(text/11-p201-220.txt:259,搜「物种主义者」)。纳帕晚宴上的争吵。 ↩

  3. 出处:同章(text/11-p201-220.txt:263,搜「布罗克曼」)与(text/11-p201-220.txt:265,搜「Rosewood」)。2015 年春。 ↩

  4. 出处:同章(text/11-p201-220.txt:313,搜「本吉奥」)。本吉奥拒绝亲自加入,但提供了年轻人名单。 ↩

  5. 出处:同章(text/11-p201-220.txt:330,搜「大巴车」)与(text/11-p201-220.txt:348,搜「9 个人同意」)。 ↩

  6. 出处:同章(text/11-p201-220.txt:345,搜「非营利」)与(text/11-p201-220.txt:349,搜「OpenAI」)。萨特斯基弗:「我喜欢做最激烈的事情。」 ↩

  7. 出处:同章(text/11-p201-220.txt:359,搜「两到三倍」)。扎伦巴回忆谷歌/Facebook 的报价。 ↩

  8. 出处:同章(text/11-p201-220.txt:371,搜「200 万美元」)。马斯克发短信劝了数日。 ↩

  9. 出处:同章(text/11-p201-220.txt:364,搜「4,000」)。参会人数接近 4,000。 ↩

  10. 出处:同章(text/11-p201-220.txt:419,搜「10 多条」)与(text/11-p201-220.txt:428,搜「你会失败的」)。酒店大堂电梯旁。 ↩

  11. 出处:同章(text/11-p201-220.txt:406,搜「出卖」)。马斯克同时是 DeepMind 投资人与 OpenAI 创始人。 ↩

  12. 出处:同章(text/11-p201-220.txt:392,搜「偶尔出现的坏人」)。「最终被证明完全不切实际」为原书作者的判语。 ↩

  13. 出处:「18 一场马库斯与杨立昆的辩论」(text/17-p321-340.txt:235,搜「Duplex」)与(text/17-p321-340.txt:241,搜「嗯嗯」)。2018 年 5 月谷歌 I/O。 ↩

  14. 出处:同章(text/17-p321-340.txt:263,搜「范围如此狭窄」)。马库斯《纽约时报》社论。 ↩

  15. 出处:同章(text/17-p321-340.txt:291,搜「更好的梯子」)。原书称马库斯为「深度学习时代的马文·明斯基」。 ↩

  16. 出处:同章(text/17-p321-340.txt:344,搜「纯粹的经验主义」)与(text/17-p321-340.txt:351,搜「毫无用处」)。 ↩

  17. 出处:同章(text/17-p321-340.txt:385,搜「三部曲」)与(text/17-p321-340.txt:388,搜「重启人工智能」)。几何智能 2015 年夏创立,后卖予 Uber。 ↩

  18. 出处:同章(text/17-p321-340.txt:344,搜「纯粹的经验主义」)。2017 年秋,纽约大学精神、大脑和意识中心。 ↩

  19. 出处:同章(text/17-p321-340.txt:400,搜「有价值的建议」)。杨立昆推文。 ↩

  20. 出处:同章(text/17-p321-340.txt:423,搜「八年级」)、(text/17-p321-340.txt:458,搜「钢琴」)与(text/18-p341-360.txt:4,搜「88%」)。 ↩

  21. 出处:同章(text/18-p341-360.txt:7,搜「BERT」)、(text/18-p341-360.txt:22,搜「缺失的单词」)与(text/18-p341-360.txt:46,搜「八年级」)。BERT 被称为「通用语言模型」;同期系统多以《芝麻街》角色命名(ELMO、ERNIE、BERT)。 ↩

  22. 出处:同章(text/18-p341-360.txt:58,搜「理解散文」)。辛顿的回应见同章马库斯相关段落,原书转述。 ↩ ↩2

  23. 出处:同章(text/19-p361-380.txt:202,搜「45 万局」)、(text/19-p361-380.txt:203,搜「4 年」)与(text/19-p361-380.txt:242,搜「里德尔」)。DotA 为 OpenAI 另一演示(中译本误译作「魔兽争霸」)。 ↩

  24. 出处:同章(text/19-p361-380.txt:82,搜「Loopt」)、(text/19-p361-380.txt:113,搜「自信的力量」)、(text/19-p361-380.txt:120,搜「SpaceX」)与(text/19-p361-380.txt:134,搜「马基雅维利」)。 ↩

  25. 出处:同章(text/19-p361-380.txt:153,搜「章程」)。2018 年 4 月发布,「与实验室创立时截然不同的使命」。 ↩

  26. 出处:同章(text/19-p361-380.txt:168,搜「太危险」)。研究界多视之为营销;最终完整发布。 ↩

  27. 出处:同章(text/19-p361-380.txt:282,搜「10 亿美元」)与(text/19-p361-380.txt:286,搜「北极星」)。大部分资金以 Azure 算力形式回流微软。 ↩

  28. 出处:同章(text/19-p361-380.txt:294,搜「250 亿」)。 ↩

  29. 出处:同章(text/19-p361-380.txt:351,搜「12 亿美元」)。谷歌在 DeepMind 的累计研究投入。 ↩

  30. 出处:同章(text/19-p361-380.txt:307,搜「计算海啸」)与(text/19-p361-380.txt:318,搜「数据中心」)。 ↩

  31. 出处:「21 未知因素」(text/19-p361-380.txt:399,搜「金字塔的两半」)。两位 MIT 终身教授:一位拒绝尝试,一位证明不可能。 ↩

  32. 出处:同章(text/19-p361-380.txt:421,搜「咖啡杯」)与(text/19-p361-380.txt:422,搜「倒置」)。辛顿:「视觉比看起来更复杂……这是一个被计算机视觉研究人员忽视的事实,这是一个巨大的错误。」 ↩

  33. 出处:同章(text/19-p361-380.txt:426,搜「通过数据」)与(text/19-p361-380.txt:424,搜「胶囊网络」)。合作者萨拉·萨布尔;2017 年秋造出原型。 ↩

  34. 出处:同章(text/19-p361-380.txt:392,搜「历史会重演」)与(text/19-p361-380.txt:443,搜「历史会重演」)。 ↩

  35. 出处:同章(text/19-p361-380.txt:445,搜「3 月 27 日」)与(text/19-p361-380.txt:453,搜「三种使用方式」)。奖金 100 万美元。 ↩

  36. 出处:同章(text/19-p361-380.txt:469,搜「500 多位客人」)与(text/20-p381-400.txt:5,搜「站在讲台旁边」)。他因背伤 15 年未坐下。 ↩

  37. 出处:「21 未知因素」(text/20-p381-400.txt:13,搜「犯罪同伙」)与(text/20-p381-400.txt:30,搜「荣誉」)。 ↩

  38. 出处:同章(text/20-p381-400.txt:42,搜「燕尾服」)与(text/20-p381-400.txt:48,搜「敢对我这么说」)。辛顿在旁补刀:「我比杨立昆和本吉奥两人加起来要年轻。」 ↩

  39. 出处:同章(text/20-p381-400.txt:69,搜「失声」)。杰基·福特,胰腺癌。 ↩

  40. 出处:同章(text/20-p381-400.txt:77,搜「有两种学习方法」)与(text/20-p381-400.txt:81,搜「奇妙的反证」)。 ↩

  41. 出处:同章(text/20-p381-400.txt:106,搜「远没有宗教那么黑暗」)。 ↩

  42. 出处:同章(text/20-p381-400.txt:3,搜「直接忽略他们」)。原书正文以此收尾。 ↩