跳到主要内容

未来智能系统 — 通往通用智能

这一章讲三件事: AGI 这个词到底指什么——四种递进的定义如何让「五年内就来」和「永远不会」 同时成立;今天的大模型还卡在哪六道坎上,以及几条通往 AGI 的路线各自押了什么注; 还有抛开概念之争,未来智能系统在工程层会更具体地怎么演化——更长的任务、更好的世界模型、 平台分层、可撤销的授权、和一份必须精打细算的监督预算。

它在全书链条里的位置:这是终点章,也是合流章——第 15 章留下的「具身是不是 AGI 必经之路」、 第 17 章留下的「生存风险」、第 01 章留下的「最终会不会有一个模型统治一切」,都在这里正面摆出来。

顶层全景:三幕结构​

   第一幕:定义与缺口    §1–§4   七十年漂流 · 四种定义 · 考试盲点 · 锯齿状智能 · 六道坎
   第二幕:路线与系统    §5–§13  五阶段路标 · 四条路线 · 时间表之争 ·
                                能力四轴 · 平台分层 · 智能体分化 · 信任三层 · 监督预算
   第三幕:人的位置      §14–§15 AGI 后的世界 · 智能爆炸 · 不会被替代的 · 共同塑造

图说: 原书把这章分成三幕:先承认「我们连要 measuring 什么都吵不清」, 再看「各条路怎么走」,最后问「人站在哪」。本章沿用这个顺序—— 讨论未来最忌讳的,就是把三幕的问题挤在一句话里吵。

1. 一个词的七十年漂流​

「人工智能」诞生于 1956 年夏天的达特茅斯学院——麦卡锡、明斯基、香农等人开了两个月研讨会, 主题是「让机器做那些如果由人来做、会被认为是智能的事情」,他们乐观地相信一个暑假就能取得 实质进展;之后的七十年证明,他们远远低估了难度1。

有趣的是,早期研究者并没有严格区分「狭义」和「通用」——1960、70 年代大家对「会思考的机器」 的期待是整体的。1980 年代专家系统兴起后,AI 被拆成一个个狭窄领域,通用智能的愿景就此被 搁置了二十多年;2000 年前后 Legg、Goertzel 等人重新提起,AGI 这个缩写 1997 年就有人用过, 真正流传是 2005 年前后。长期以来它是学术圈边缘甚至科幻色彩的词,严肃研究者怕被同行视为 不务正业;2022 年 ChatGPT 发布后,工业界突然发现我们可能真的在向那里走—— 从 2023 年起,AGI 变成了每一场会议、每一份融资路演、甚至首脑会谈的高频词2。 第 01 章埋的「这个问题会在第 18 章正面摆出来」,在此兑现:AGI 不是新热词,它是这门学科被 弄丢了七十年的原始目标。

2. 四种含义,四套时间表​

AGI 到底是什么?在不同人口中是完全不同的意思。书里分出四层递进的含义3:

层定义谁在用门槛
劳动替代能做大多数有经济价值的人类工作OpenAI 早期章程;Altman 反复说的「未来几年」实用,可衡量
人类智能水平广泛认知任务达到或超过平均人类Hassabis 偏爱;要求视觉+语言+动作整合难得多——今天还不及两岁孩子
超过人类几乎所有任务超过最优秀人类Bostrom《Superintelligence》奠定的讨论框架超级智能的门槛
有意识有主观体验、知道自己在哲学难题;连章鱼有没有意识都没有共识可能永远没有公认答案

所以三家头部公司的时间差——Altman 的「几年」、Amodei 的「最早 2026」、Hassabis 的「5 到 10 年」—— 与其说是同一把尺子上的预测,不如说是对「到达哪一层、用什么证据算到达」的不同押注4。 下次听到「某某说 AGI 五年内就来」,第一反应应该是:他说的是哪一层的 AGI?5

3. 会考试,不等于会生活​

怎么判断它到了没有?AI 史上有一条奇怪规律:一个测试一旦被设计出来,很快就会变成训练和 优化的目标。图灵测试原本为了绕开「机器是否真的会思考」,聊天机器人进步之后大家又发现: 让人短时间误以为你是人,不等于你真的会长期工作、承担责任6。

基准有三个盲点7:题目可能被训练数据污染(像考前背到原题的学生); 考试题有明确答案而真实世界没有(裁不裁员、要不要尝试新疗法,这些不是选择题); 模型一旦知道评分规则就可能学会刷分。所以 AGI 评估不能只看分数,还要看它能不能在开放世界里 稳定、诚实、可控地完成长期任务。书里那句判词可以当座右铭:会做奥数题很厉害,但如果它会在订 机票时忘记预算、写代码时乱删数据库、遇到不懂的问题还装懂,那就还不能放心交给它经营一家公司 ——考霸不等于成年人,满分试卷也不等于成熟人格8。

4. 六道坎:极强与极弱同时存在​

传统观念里智能是一把尺子;但 AI 的能力分布是锯齿状智能(Jagged Intelligence,Karpathy 2024 叫响) ——某些维度远超人类,某些维度不如孩童,落差远大于人类个体间的差异9。 为什么?智能的「形状」被训练数据的形状塑造:互联网文字多所以语言强,视频里的物理常识难以 用文字标注所以物理常识弱,机器人演示数据稀缺所以操作能力弱——留下了一道道深浅不一的沟壑10。 所以「AGI 是否到来」不是二元问题,该问的是在哪些维度上到了、哪些还差得远11。

原书把还没跨过去的坎列成六道,这是全书对「还差什么」最集中的一次回答12:

  1. 幻觉:只要模型的目标仍是生成最像样的文本而不是保证为真,幻觉就不是边缘 bug, 而是通往 AGI 的硬障碍——它必须在「会说得像」之外学会「能判断真伪」和「知道自己不知道」13;
  2. 长期规划:只能看清三步。长任务里前后矛盾(第 10 步说用 React,第 50 步说用 Vue)、 忘记约定(说好不用收费 API,写着写着就加了)、迷失方向;即使给百万词元的窗口, 规划质量也不线性提升——模型会「看过但用不上」;从 AutoGPT 跑几步就卡住,到 Claude Code 连续工作几十分钟,进步是真的,但「连续几个月的项目」仍是门槛,可能需要新的架构思想14;
  3. 因果:珀尔的公鸡例子——AI 能学会「公鸡打鸣后太阳升起」,但问「让所有公鸡都不打鸣, 太阳还会升起吗」它就懵了,因为反事实问题不在训练数据里。当前大模型本质是高级的相关性学习器, 在分布内聪明、在分布外抓瞎,而科学家、医生、政策制定者每天的核心工作恰恰是反事实推断15;
  4. 持续学习:人 60 岁还记得童年客厅,同时在学新 App;大模型训练完参数就「定格」, 拿新数据续训又会灾难性遗忘——今天的大模型本质上仍是「阶段性重训,中间靠检索补丁」; 答案可能在混合模型、记忆与参数分离(像海马体和新皮层分工),或反向传播之外的学习机制16;
  5. 物理常识:GPT-4 能答对「冰块放进水会融化」,问到「倒转杯子冰块会掉出来吗」就开始犹豫—— 这需要组合式物理推演。具身派(LeCun、Brooks)认为没有身体就难有真常识; 另一派认为视频数据够多就行——真正的「做」和「看」是不一样的,这是未被完全回答的问题17;
  6. 持续的自我:当前 AI 没有明确的持续自我,像一个每次对话都刚刚出生的生物—— 你问「你是谁」,它给出的「自我」是根据上下文实时构造的,上下文结束「自我」也就消散。 是否是 AGI 必要条件没有共识,但「强版本的 AGI」至少需要一种工程上的「自我账本」: 稳定记录「我在做什么、目标是什么、哪些承诺不能违背」18。 第 07 章说 ARC-AGI 那类抽象推理基准「第 18 章会正面讨论」,这里给出它在六道坎坐标里的位置: 考的是泛化,而泛化恰好会被上列每道坎卡住。

5. 五阶段路标​

2024 年彭博社披露了 OpenAI 内部的五阶段框架。书里强调它不是严谨的科学分类,而是定位感—— 谨慎者把今天的 AI 放在 L2 到 L3 附近,乐观者认为已在向 L4 靠近;它的价值在于比较不同方向的进展, 而不是精确宣布「现在走到哪一级」19:

级名字标志能力现状锚点
L1对话者自然对话、问答、写作ChatGPT 这一代
L2推理者数学推导、证明、复杂系统分析o1/o3、R1、Qwen3;GPT-5 把推理与对话合成「自动判断要不要多想」
L3智能体接高层目标,自己拆解、调工具、持续几小时交付Operator/Agent mode、Claude Code、Devin——「智能体元年」,但长任务一致性仍是短板
L4创新者做出人类没做过的科学、技术、艺术创新AlphaFold/AlphaProof 在窄领域展示了力量,远未「独立完成重大科学发现」
L5组织完成整个组织的工作,协调成千上万子任务尚远;接近某些 AGI 定义,取决于可靠性与可验证性

6. 几条路线:一道组合题​

通往 AGI 更像几条河流汇入同一片海20:

  • 规模法则:每次规模提升一个数量级,能力往往可测增长,训练损失下降曲线惊人地光滑; 2020 年的 Scaling Laws 把它写成幂律公式,奠定了此后整个产业的发展逻辑。 怀疑点:长规划、因果、物理常识上不一定成立;高质量人类文本并非无限(Epoch AI 估算了 「数据耗尽」情景)21;
  • 长思考(测试时扩展):o1/R1 让模型回答前打草稿、试错、回头检查—— 测试时扩展可以显著提升某些任务,不一定只靠训练时变大;简单问题短思考、难题长思考。 但推理模型是杠杆,杠杆的支点还是基础模型本身——不懂微积分的模型再长思考也发明不出微积分22;
  • 自我进化:AlphaGo Zero 不用人类棋谱,三天从零超越击败李世石的 AlphaGo;AlphaZero 约 4 小时 超过顶级国际象棋引擎。把「答案是否正确」当奖励信号不断迭代——AlphaProof 在数学上已展示了 一部分潜力。风险也在这里:如果 AI 真能自我改进,就可能智能爆炸23;
  • 具身与世界模型:LeCun 的名言——「一只猫能做的事情,比最先进的大语言模型还多」; JEPA 在抽象表示空间学世界规律。质疑者反手一击:具身学习样本效率极低、成本极高, 也许数字世界里的智能体会先成熟24;
  • 混合路线:最可能的情况——AGI 是组合题:大规模预训练打底,加强化学习自我改进, 加长思考,加多模态与具身的世界理解,加记忆与工具使用。当前前沿系统正是在这样组合, 各家工具箱在逐渐趋同25。 第 15 章留的「具身是不是 AGI 必经之路」在此收口:两派观点可能都对,AGI 可能有多条路径, 其中具身是一条26。

7. 时间表:相差十倍以上的判断​

乐观派:Altman 说「几千天内」可能有超级智能(数年到十年量级);Amodei 2024 年 10 月长文认为 「强大的 AI」最早 2026 年到来;Legg 从 2011 年起持续给出「2028 年前后 50%」—— 一个人能在十几年里持续使用相近的时间表,至少说明这不是追逐热度的临时判断; Aschenbrenner 的《Situational Awareness》预测 2027 AGI、2030 超级智能—— 优点是推理链写得清楚,缺点是每个外推环节都很脆弱27。

保守派:LeCun 认为 AGI 还要几十年且不会通过扩大大语言模型达到;Gary Marcus 持续批评大模型在 常识、因果、组合性上的根本缺陷;最数据驱动的是 AI Impacts 2023 年的调查——2778 名研究者给出 「机器能无辅助胜过人类完成每项任务」的 50% 中位年是 2047,「所有人类工作被自动化」的中位年 远到 2116——主流学术界整体比前沿公司的乐观叙事更谨慎28。

同一群领域顶端的人,给出了相差十倍以上的判断——书里说这种分歧在科学史上并不常见, 并归因于四点29:对规模外推的信心不同;对「智能本质」的理解不同(能解题 vs 稳健地理解世界并行动); 立场和利益不同(大公司 CEO 倾向乐观部分因为它帮助融资招人,学术界倾向保守部分因为警惕炒作); 以及 AGI 定义本身的滑动——乐观派和保守派往往在不自觉地用不同定义辩论,自然谁也说服不了谁。 最诚实的态度是承认不确定性,但不确定性不是袖手旁观的理由:两种情况都需要现在就开始行动30。

8. 能力维度的继续演化​

抛开概念之争,未来智能系统在工程层有四条能力轴特别值得关注31:

  • 更长的时间尺度:现实中有价值的任务(研究课题、维护系统、跟进销售线索)都跨长周期。 系统要同时进化三层:长上下文(一次看得更远)、长记忆(跨轮次保留重要信息)、 长期任务能力(不偏航、不遗忘、不空转);METR 2025 年的实证报告把「AI 能稳定完成的人类 任务长度」做成新指标——把「长任务能力」从直觉变成可观测增长曲线的早期尝试32;
  • 更稳的世界模型:不是神秘概念,指系统能否在内部形成对环境状态、变化规律和行动后果的 稳定表征——它的价值体现在行动前少犯代价高昂的错误:计划质量、错误恢复、工具使用顺序、 跨步骤一致性33;
  • 可反复预演的环境副本:数字孪生(给真实世界造一个可仿真的数字副本)的关键不在「多练几次」,而在改变智能系统和环境的关系—— 过去的模型在静态语料上学统计结构,未来的系统在可执行的环境副本里学行动后果: 要预测的不只是一句话后面接什么,还有一个动作之后流程会怎样变化、一个错误会沿哪条链路扩散; 分层预演(离线回放→模拟→影子→真实放权)看似更慢,实际是用更多前置计算换更少真实事故34;
  • 多模态与具身延展:模态边界继续减弱,具身不一定马上意味着人形机器人——只要系统的动作 开始真正改变物理或半物理环境,就已经在向具身迈进,区别只是耦合深度和风险大小; 文本世界里的错误还能被解释糊过去,物理环境里的错误会立刻以失败、碰撞、超时显现35。

四轴合起来的判词:未来系统比拼的不再是某一次生成有多漂亮,而是在完整行动周期里有多可靠36。

9. 平台分层与协议化​

能力轴决定上限,把它们组织成可长期运行软件的是平台化。分层趋势已经清晰: 最底层基础模型,往上一层运行时系统(上下文编排、工具调度、缓存、记忆与权限控制), 再往上是工作流与应用——很多人开始把未来平台想象成某种「智能体操作系统」; 分层稳定后,模型层比拼通用能力边界,平台层比拼可靠性、可集成性和治理能力37。

开放生态与事实标准随之而来:未来竞争不只发生在「谁有最强模型」,还发生在「谁定义了更容易 被他人接入的协议层」——和互联网早期一样,最后留下来的往往不是功能最强的系统, 而是最容易成为他人基础设施的那个38。

再往深一层是智能体协商与机器可读承诺:未来的智能体协作不再停留在自然语言聊天层面, 而是围绕约束、权限、交付物和失败语义达成结构化约定——「我在这些前提下、以这些资源、 在这些限制内承担这部分工作;若条件不满足,将以这些方式中止或交还」;把协商语义定义清楚的 一方,往往是最先攒出可组合、可替换、可治理智能体网络的一方39。 三层合看:系统分层让责任可划分,开放协议让接入可复用,智能体协商让协作可验证40。

10. 智能体形态的分化:两条轴​

未来不太可能有「万能智能体」,更可能沿两条轴分化41:

  • 个人 vs 组织:个人智能体贴着个人知识、偏好和日常工作流,难点在长期个性化(隐私、记忆 淘汰、授权边界);组织智能体嵌入团队流程与制度边界,难点在制度化协作(权限分层、审计、交接、 责任可追踪)。前者像延长个人认知,后者更像嵌入组织机器42;
  • 本地 vs 云端:高价值任务伴随敏感上下文、持续记忆和低时延需求——本地智能体承担敏感记忆 管理、偏好维护、设备侧感知和身份连续性,云端负责重推理与跨组织协调。谁在本地、谁上云, 不再只是工程部署问题,而会变成隐私边界、责任边界和制度边界的一部分43。

背后是数据主权:谁掌握长期记忆和工作轨迹,谁握住的不只是调用权,更是用户关系和迁移成本。 未来平台竞争会围绕「是否支持本地保管关键记忆」「能否带着自己的上下文离开」展开—— 本地智能体不是保守退路,而可能是大规模部署走向长期可持续的必要条件44。

11. 身份、记忆与可验证信任​

长期智能体要被依赖,需要三样制度化的东西,各答一个问题45:

  1. 可撤销的授权(放权后能不能收回?):自治不是一夜打开的总开关,而是一组被逐级放开的 能力闸门;真正让人放心的是出了问题收得回来——放权与收权,会像今天的发布与回滚一样, 成为智能系统运行中的日常动作46;
  2. 可迁移的记忆(记忆是不是真正归我?):如果记忆完全锁在平台里,用户拥有的就不是自己的 长期智能体,而只是**「租用某个平台临时提供的智能服务」**;记忆主权会从产品细节变成 基础设施问题47;
  3. 可验证的身份(别人凭什么信?):未来系统需要说明这个智能体是谁、代表谁、有什么经过 验证的权限、动作是否在边界内——「智能体信誉」回答的不是它强不强,而是它长期运行里 是否稳定、守边界、留可信记录、能被追责48。

三层合起来的收束:仅仅能力强还不够,更要权限可控、记忆属我、身份可信——没有这三层, 智能体能力再强也只是单点工具;有了这三层,它才开始像一种可以被社会与组织严肃对待的数字主体49。

12. 人机协作与监督预算​

未来系统未必「彻底替代人」,而是更深地嵌入协作结构,沿三层展开50: 组织化——人类角色与智能角色混编,有些步骤人拍板、有些自动推进、有些多智能体并行再由人复核; 制度化——审批链、岗位边界、保密要求这些散落在制度文件里的约束,要逐步转成可机器读取、 可运行时检查的策略表达,制度如果不能被系统看见,就很难真正被系统遵守(规则太死会误伤, 太松会把组织该承担的判断偷偷外包给模型)51; 监督化——最容易被忽略的约束:人类注意力本身也是稀缺资源。系统能力越强、自动化链条越长, 理论上越需要监督,但不可能让人逐步检查每一次调用——未来真正困难的问题已经不是 「系统能不能做更多事」,而是**「当系统做越来越多事时,有限的人类监督应该被花在什么地方」。 所以未来系统除了管理计算预算,还必须管理监督预算:把长链条行为压缩成人真正看得动、 判得准的关键信号包——谁能把机器工作翻译成人类监督对象,谁就更可能把更高等级的自治安全地 推向真实组织52。 人的角色随之迁移:从「亲手执行每一步」转向「设计目标与监督闭环」**53。

13. 算力、能源与可持续约束​

不能回避的现实:模型更大、上下文更长、智能体运行更久、具身任务更复杂,都会把计算需求往上推。 这会反过来塑造技术选择——为什么稀疏结构重要、为什么推断要分层、为什么多智能体要讲调度, 背后都和可持续约束有关。书里给出一个可能违反直觉的判断:最成熟的系统,往往是单位能力 产出最划算、最容易被大规模维持的那个,未必是能力最强的那个;未来评价技术进步的方式也会变 ——不只盯参数规模和排行榜,还要看完成同类任务要多少计算、长期运行的能耗、能否在更便宜硬件上 稳定部署54。

14. AGI 后的世界:两种愿景与一个递归​

乐观愿景(Amodei《Machines of Loving Grace》):强 AI 像天才科学家、工程师、医生、老师的总和。 医疗上癌症研究从「蹒跚学步」变「坐上高铁」;教育上每个孩子都有自己的 「亚里士多德小助手」(最好别像真亚里士多德那样顺便带来一堆古希腊偏见); 科学上聚变、室温超导因 AI 加速;经济上 UBI 或再分配成为严肃选项55。

担忧面:失业潮——工业革命替代体力用了一百多年,AGI 替代脑力可能只用十年,速度超过社会 适应的能力;权力集中;深度伪造侵蚀社会信任;自主武器;以及最深的对齐失败——不是 AI 反叛的 科幻剧情,而是系统按字面理解指令、错过人类真实意图(目标写成「让用户快乐」,它可能试图直接 操纵大脑奖励系统)56。Bengio、Hinton、姚期智、Russell、Kahneman 等 25 位学者 2024 年在 《Science》联署的文章,是目前最高规格的学界共识;概率和严重程度仍然未知,既不应该忽视, 也不应该恐慌57。

智能爆炸有比想象中更早的源头:1951 年图灵就写道「一旦机器思考的方式启动,要超过我们这点 羸弱的能力恐怕用不了多久」——没有悔意,也没有解决方案,只是听之任之的接受; 1965 年古德补上递归骨架:设计机器本身是智力活动,超智能机器就能设计更强的下一代—— 第一台超智能机器可能是人类的最后一项发明,前提是它足够可控;这个条件里藏着今天 AI 安全 研究最艰难的挑战(超对齐团队 2023 年成立、2024 年被拆散,至今没有令人信服的方案)58。

人的位置:有四样东西可能仍是人类独有的——有意识的主观体验(意识的困难问题)、 扎根于经验的价值判断(价值的合法性来自人类的同意:别人替你决定什么对你好,无论多正确, 也不是你的生活)、人与人之间由共同时间构建的真实连接、身体的存在(我们是身体,不只是头脑)59。 更建设性的框架是协作而非替代:AGI 提供广博知识、快速处理、不疲劳的执行; 人提供价值判断、创造性、真实连接和共情——AI 起的是放大作用60。 教育因此要变:从「记住知识」转向「运用知识」,培养提出好问题、在不确定中决策、跨学科整合、 理解自己——AGI 时代的教育如何设计,可能是未来十年最重要但最被低估的社会议题之一61。

15. 人在这个时代的位置​

书里的结语把整本书收成一条线:从最朴素的梯度下降,到 Transformer 的大一统,到大模型的涌现, 到智能体的行动、具身机器人的落地、AI for Science 的加速,这一切的底色只有一条——让机器从数据 中自己学62。未来系统的轮廓也随之清楚:它未必是凭空跳出来的新物种,更可能是今天这条 「大模型到智能体」的主线在若干关键瓶颈被突破后,逐步变厚、变稳、变复杂的结果—— 上下文变成长记忆,推理变成可执行规划,工具变成平台接口,协作变成组织结构,治理从事后补丁 变成前置设计63。

最后是全书的落点,也是我们这组拆解最愿意原样交还的一句话:AI 是少数能够与我们讨论自身影响 的技术之一——火不会替自己辩护,印刷术不会反思它传播的内容;而 AI 是一个在说话、在推理、在影响 我们怎么看世界的系统。如何与这样的存在共处,不神化、不恐惧、不轻信,也不放弃主导, 将是这一代人必须共同回答的问题。AI 的未来不是写死的剧本,它是我们共同写的书64。

主走查:把一个课题从文献读到论文初稿​

这条走查贯穿本章。 输入:「帮我调研『家用机器人叠衣服』这个课题,从文献读到论文初稿」。 先按今天的能力走一遍,标出卡点;再按六道坎被跨过后的情形走一遍。

① 提课题、拆任务。(§4 长规划)今天:它给出合理的里程碑列表。卡点在第 9 步前后: 任务做到第几十步时,它会把第 2 步定下的「只看 2023 年后文献」忘掉——只能看清三步的长规划。

② 文献检索与摘要。(§4 幻觉)今天:它能读、能总结,但引用里偶尔混入不存在的论文—— Avianca 案的教训;它需要在「会说得像」之外学会「知道自己不知道」。

③ 列假设。(§4 因果)今天:它列出的「抓住衣角角度与成功率相关」是相关性假设; 「哪一个是因」它答不了——分布内聪明、分布外抓瞎。

④ 写实验代码。(§5 L2–L3)今天:这一步反而是最强的——推理模型写出的仿真脚本大多能跑, L2 推理者的能力已外溢到编程。

⑤ 跑仿真叠衣服实验。(§4 物理常识)今天:仿真里的毛巾像木板一样听话(第 15 章的原话), 仿真得分不能当真——纸上谈兵容易,物理常识是纸面常识。

⑥ 结果分析,更新假设。(§4 持续学习)今天:实验结论无法被它「记住」到下个会话; 每次重开都要重新喂上下文——阶段性重训、检索补丁的模式。

⑦ 写初稿。(§3 会考试)今天:稿子格式漂亮、措辞熟练,但审稿人一眼看出它没做过实验的「空转感」 ——考霸不等于成年人。

⑧ 卡点汇总。(§4)今天走到第 4、9、12 步各卡一道坎:第 4 步后开始长规划失稳、第 9 步因果 归因缺失、第 12 步没有持续的「自我账本」把课题当成自己的承诺。

⑨ 假设六道坎被跨过。(§8–§12)同一条路长这样:它有自己的课题记忆和「自我账本」(§4 第 6 坎), 实验在自己的环境副本里预演过物理后果(§8),假设带因果模型可被干预检验(§4 第 3 坎), 任务跨月推进不偏航(§8 时间尺度);你作为监督者收到的不是 40 页轨迹,而是一个监督预算友好的 信号包(§12)——三页关键证据、两处待决断、一条不可逆动作的确认请求。

⑩ 你还在哪。(§14–§15)即便走通,选题的品味、结论的意义、署名的责任、作者的同意, 仍然是你的——价值的合法性来自人类的同意。它把「能做一段」做掉了;「值得做一段」依然归你。

作者的判断与证据​

书里给出可核事实或文献来源的地方:

  • 达特茅斯 1956、AGI 缩写 1997(Gubrud)与 2005 前后复兴的时间线,与人名(legg/Goertzel)均给了出处12;
  • 四家公司的原始表态(Altman「几千天」、Amodei《Machines of Loving Grace》2026、Hassabis 5–10 年、 Legg 2028±)与 AI Impacts 2023 调查(2778 人、中位 2047/2116)精确到引文42728;
  • 五阶段框架注明「彭博社披露的内部文件」并配上 Morris 等人 2023 的学术分层作为对照19;
  • AlphaGo Zero 三天、AlphaZero 约 4 小时超 Stockfish、图灵 1951 演讲引文、古德 1965 论文、 25 位学者 Science 联署——全部有文献锚235758。

书里标成判断或立场的地方:

  • 「智能的形状被训练数据的形状塑造」——作者对锯齿状智能的机理判断10;
  • 「推理模型是杠杆,支点还是基础模型」——作者的路线判断22;
  • 五阶段「不是科学定理,只是粗略路标」;时间表「谦卑面对不确定,但两种情况都要现在行动」—— 作者反复自我设限的地方1930;
  • 「最成熟的系统往往是单位能力产出最划算的,未必是最强的」——作者的工程判断54;
  • 生存风险「既不应该忽视,也不应该恐慌」——书里明确标为中立立场57。

判断(我们的,不是书里的): 本章六道坎其实分两类,而它们的难度性质完全不同—— 幻觉、长规划、持续学习是「工程规模」问题(现有范式内持续投入大概率能磨过去), 因果、物理常识、持续自我是「范式」问题(可能需要 本书之外的新思想)。 这个区分直接决定该信哪派时间表:乐观派(劳动替代定义)只需要第一类全过; 保守派(人类水平定义)卡在第二类。所以「AGI 几年还是几十年」的争论,拆开看其实双方都对—— 只是各自在量不同的坎。如果错,会错在: 若测试时扩展加世界模型这类「现有范式内的组合」 意外攻破了因果或物理常识(第 15 章 ERA 一节已有苗头),第二类坎会塌方成第一类, 保守派的时间表将被证伪;反之若规模路线数据耗尽(Epoch AI 情景)先发生, 连第一类坎都会重新变难。

边界与局限​

  • 对应关系: 本章对应原书第 17 章全文。原书 17.5–17.8 的工程前瞻(能力轴、平台、分化、信任、监督预算、可持续)全部保留;17.9 的 AGI 后世界与 17.10 结语合并成 §14–§15。
  • 许诺兑现声明: 第 15 章「AGI 多条路径,具身是一条」在本章 §6 兑现;第 17 章「生存风险留给下一章」在本章 §14 兑现;第 07 章「ARC-AGI 第 18 章正面讨论」在本章 §4 兑现;第 01 章「第 18 章正面摆出来」的格局问题在 §2(四层定义)兑现。
  • 没展开的: GPT-5 之后的模型动态、AI 2027 与 Situational Awareness 的逐月剧本、教育改革的具体方案——书里各有定位,我们不做延伸预测。
  • 时效声明: 本章所有时间表和产品状态截至 2026 年成书口径;AGI 讨论的半衰期极短,概念骨架(四层定义、六道坎、组合题)比数字耐放。

可带走的​

  1. AGI 是这门学科弄丢七十年的原始目标;听到时间表先问:他说的是哪一层? 劳动替代、人类平均、超过最优秀人类、有意识——四层四套时间表。
  2. 一个测试被设计出来,就会变成被优化的目标;锯齿状智能让「到没到」必须按维度问——考霸不等于成年人,满分试卷不等于成熟人格。
  3. 六道坎背下来:幻觉(像真不等于真)、长规划(只能看清三步)、因果(公鸡不打鸣太阳还升吗)、持续学习、物理常识、持续的自我。
  4. 五阶段是路标不是定理;通往 AGI 是组合题不是单选题,推理模型是杠杆——对话者→推理者→智能体→创新者→组织,支点还是基础模型。
  5. 时间表相差十倍以上:2026 到 2047 到「不可达」——分歧来自信心、智能观、立场利益和定义滑动。
  6. 未来系统比拼的不是单次生成多漂亮,而是完整行动周期里多可靠;平台竞争在协议层——系统分层让责任可划分,机器可读承诺让协作可验证。
  7. 没有万能智能体;权限可控、记忆属我、身份可信——个人/组织与本地/云端两轴分化,三道关齐了才从单点工具变成可被严肃对待的数字主体。
  8. 两个预算都要精打细算:人类注意力是稀缺资源(监督预算),算力能源也是——最成熟的系统是单位能力产出最划算的,未必是最强的。
  9. 智能爆炸的骨头是递归,命门是那个前提:第一台超智能机器可能是人类最后一项发明——前提是它足够可控。
  10. 价值的合法性来自人类的同意;未来系统不会凭空从天而降——别人替你决定什么对你好,无论多正确,也不是你的生活;它是今天这条主线变厚、变稳、变复杂的结果。

原文地图​

主题原书节原文位置
GPT-4 火花17 引言text/18-ch17.txt:12(搜“会接龙的语言模型”) · text/18-ch17.txt:17(搜““火花”一词”)
达特茅斯17.1.1text/18-ch17.txt:51(搜“为期两个月的研讨会”) · text/18-ch17.txt:55(搜“远远低估”)
搁置与复兴17.1.1text/18-ch17.txt:62(搜“搁置了二十”) · text/18-ch17.txt:73(搜“向那里走”)
四层定义17.1.2text/18-ch17.txt:82(搜“劳动替代的 AGI”) · text/18-ch17.txt:91(搜“不同押注”) · text/18-ch17.txt:95(搜“超级智能”) · text/18-ch17.txt:101(搜“有意识的 AGI”)
哪一层17.1.2text/18-ch17.txt:109(搜“他说的是哪一层”)
考试盲点17.1.3text/18-ch17.txt:114(搜“训练和优化的目标”) · text/18-ch17.txt:129(搜“考霸不等于成年人”)
锯齿状智能17.1.4text/18-ch17.txt:138(搜“Jagged Intelligence”) · text/18-ch17.txt:151(搜“被训练数据的形状塑造”) · text/18-ch17.txt:152(搜“不是一个二元问题”)
坎一:幻觉17.2.1text/18-ch17.txt:192(搜“硬障碍”) · text/18-ch17.txt:221(搜“和“知道自”)
坎二:长规划17.2.2text/18-ch17.txt:231(搜“矛盾（第 10 步说“我们决定用 React””) · text/18-ch17.txt:239(搜“稀释关键信息”) · text/18-ch17.txt:246(搜“新的架构思想”)
坎三:因果17.2.3text/18-ch17.txt:259(搜“打鸣后几分钟太阳升起”) · text/18-ch17.txt:266(搜“高级的相关性学习器”) · text/18-ch17.txt:276(搜“反事实推断”)
坎四:持续学习17.2.4text/18-ch17.txt:282(搜“灾难性遗忘”) · text/18-ch17.txt:285(搜“中间靠检索补丁”) · text/18-ch17.txt:296(搜“海马体和新皮层”)
坎五:物理常识17.2.5text/18-ch17.txt:314(搜“组合式的物理推演”) · text/18-ch17.txt:7(搜““做”和“看”是不一样的”)
坎六:自我17.2.6text/18-ch17.txt:332(搜“刚刚出生的”) · text/18-ch17.txt:340(搜“也就消散了”) · text/18-ch17.txt:353(搜““自我账本””)
路线总览17.3text/18-ch17.txt:362(搜“一道组合题”)
五阶段17.3.1text/18-ch17.txt:376(搜“五个里程碑”) · text/18-ch17.txt:381(搜“粗略路标”) · text/18-ch17.txt:384(搜“对话者”) · text/18-ch17.txt:404(搜“Reasoners”) · text/18-ch17.txt:412(搜“第三级叫智能体”) · text/18-ch17.txt:393(搜“创新者”) · text/18-ch17.txt:423(搜“第五级叫组织”)
规模法则17.3.2text/18-ch17.txt:436(搜“幂律函数”) · text/18-ch17.txt:450(搜““数据”)
长思考17.3.3text/18-ch17.txt:455(搜“o1（代号 Strawberry”) · text/18-ch17.txt:469(搜“按需分配”) · text/18-ch17.txt:476(搜“杠杆的支点还是基础模型本身”)
自我进化17.3.4text/18-ch17.txt:483(搜“三天内就从零学到”) · text/18-ch17.txt:484(搜“约 4 小时”) · text/18-ch17.txt:498(搜“智能爆炸”)
具身与世界模型17.3.5text/18-ch17.txt:506(搜“一只猫能做的事情”) · text/18-ch17.txt:517(搜“争论焦点”)
混合路线17.3.6text/18-ch17.txt:524(搜“多条路线的组合”)
时间表乐观派17.4.1text/18-ch17.txt:541(搜“几千天内”) · text/18-ch17.txt:545(搜“最早在 2026 年到来”) · text/18-ch17.txt:552(搜“2028 年前后”) · text/18-ch17.txt:565(搜“每个外推环节都很脆弱”)
保守派17.4.2text/18-ch17.txt:585(搜“2047 年”) · text/18-ch17.txt:585(搜“2116 年”) · text/18-ch17.txt:594(搜““这一次不一样”的论调天然警惕”)
分歧四因17.4.3text/18-ch17.txt:627(搜“你觉得聪明是什么”) · text/18-ch16.txt 不适用 · text/18-ch17.txt:637(搜“谁也说服不了谁”) · text/18-ch17.txt:644(搜“现在就开始行动”)
四条能力轴17.5text/18-ch17.txt:653(搜“时间尺度、世界模型”) · text/18-ch17.txt:669(搜“可观测增长”) · text/18-ch17.txt:687(搜“代价高昂的错误”) · text/18-ch17.txt:699(搜“沿哪条链路扩散”) · text/18-ch17.txt:711(搜“耦合深度和风险大小”) · text/18-ch17.txt:721(搜“完整行动周期里有多可靠”)
平台分层17.6text/18-ch17.txt:735(搜““智能体操作系统””) · text/18-ch17.txt:750(搜“最容易成为他人基础”)
机器可读承诺17.6text/18-ch17.txt:765(搜“机器可读方式做承诺”) · text/18-ch17.txt:769(搜“在这些限制内承担这”) · text/18-ch17.txt:781(搜“基础设施能力之争”)
智能体分化17.6.1text/18-ch17.txt:786(搜““万能智能体””) · text/18-ch17.txt:794(搜“延长个人认知”) · text/18-ch17.txt:809(搜“隐私边界、责任边界和制度边界”) · text/18-ch17.txt:103(搜“必要条件”)
信任三层17.7text/18-ch17.txt:846(搜“能力闸门”) · text/18-ch17.txt:852(搜“发布与回滚一样”) · text/18-ch17.txt:860(搜““租用某个平台临时提”) · text/18-ch17.txt:869(搜““智能体信誉””) · text/18-ch17.txt:884(搜“数字主体”)
协作三化17.7.1text/18-ch17.txt:895(搜“人类角色与智能角色混编”) · text/18-ch17.txt:924(搜“很难真正被系统遵守”) · text/18-ch17.txt:935(搜“监督预算”) · text/18-ch17.txt:944(搜“值得检查的部分”) · text/18-ch17.txt:933(搜““设计目标与监督闭环””)
可持续约束17.8text/18-ch17.txt:964(搜“未必是能力最强的那个”) · text/18-ch17.txt:969(搜“共同平衡”)
乐观愿景17.9.1text/18-ch17.txt:984(搜““坐上高铁””) · text/18-ch17.txt:993(搜““亚里士多德小助手””)
风险面17.9.2text/18-ch17.txt:1009(搜“超过了社会适应的能力”) · text/18-ch17.txt:1027(搜“操纵大脑奖励系统”) · text/18-ch17.txt:1035(搜“不应该恐慌”)
智能爆炸17.9.3text/18-ch17.txt:1042(搜“羸弱的能力恐怕用不了多久”) · text/18-ch17.txt:1055(搜““智能爆炸””) · text/18-ch17.txt:1057(搜“最后一项发明”) · text/18-ch17.txt:1075(搜“足够驯服”)
不会被替代的17.9.4.1text/18-ch17.txt:1086(搜““意识的困难问题””) · text/18-ch17.txt:1094(搜“也不是你的生活”) · text/18-ch17.txt:1101(搜“我们是身体，不只是头脑”)
协作而非替代17.9.4.2text/18-ch17.txt:1110(搜“放大人类”)
做什么样的人17.9.4.3text/18-ch17.txt:1142(搜“最被低估的社会议题”)
结语17.10text/18-ch17.txt:1169(搜“机器从数据中自己学”) · text/18-ch17.txt:1164(搜“陌生的智能邻居”) · text/18-ch17.txt:1180(搜“逐步变厚、变稳”) · text/18-ch17.txt:1198(搜“我们共同写的书”)

Footnotes​

  1. 出处:「17.1.1」第 51 段(text/18-ch17.txt:51,搜“为期两个月的研讨会”)与第 55 段(text/18-ch17.txt:55,搜“远远低估”)。 ↩ ↩2

  2. 出处:第 62 段(text/18-ch17.txt:62,搜“搁置了二十”)、第 66 段(text/18-ch17.txt:66,搜“Mark Gubrud”)、第 73 段(text/18-ch17.txt:73,搜“向那里走”)。 ↩ ↩2

  3. 出处:「17.1.2」第 82 段(text/18-ch17.txt:82,搜“劳动替代的 AGI”)、第 92 段(text/18-ch17.txt:92,搜“平均人类”)、第 95 段(text/18-ch17.txt:95,搜“超级智能”)、第 101 段(text/18-ch17.txt:101,搜“有意识的 AGI”)。 ↩

  4. 出处:第 979 段(text/18-ch17.txt:979,搜““Machines of Loving Grace””)与第 91 段(text/18-ch17.txt:91,搜“不同押注”)。 ↩ ↩2

  5. 出处:第 109 段(text/18-ch17.txt:109,搜“他说的是哪一层”)。 ↩

  6. 出处:「17.1.3」第 114 段(text/18-ch17.txt:114,搜“训练和优化的目标”)与第 118 段(text/18-ch17.txt:118,搜“长期工作、承担责任”)。 ↩

  7. 出处:第 123 段(text/18-ch17.txt:123,搜“没有标准答案”)与第 125 段(text/18-ch17.txt:125,搜““刷分””)。 ↩

  8. 出处:第 129 段(text/18-ch17.txt:129,搜“考霸不等于成年人”)。 ↩

  9. 出处:「17.1.4」第 138 段(text/18-ch17.txt:138,搜“Jagged Intelligence”)。 ↩

  10. 出处:第 151 段(text/18-ch17.txt:151,搜“被训练数据的形状塑造”)。 ↩ ↩2

  11. 出处:第 152 段(text/18-ch17.txt:152,搜“不是一个二元问题”)。 ↩

  12. 六坎清单出自「17.2」的关卡图与各小节(text/18-ch17.txt:186,搜“几道坎”)。 ↩

  13. 出处:「17.2.1」第 192 段(text/18-ch17.txt:192,搜“硬障碍”)与第 221 段(text/18-ch17.txt:221,搜“和“知道自”)。 ↩

  14. 出处:「17.2.2」第 231 段(text/18-ch17.txt:231,搜“矛盾（第 10 步说“我们决定用 React””)、第 239 段(text/18-ch17.txt:239,搜“稀释关键信息”)、第 246 段(text/18-ch17.txt:246,搜“新的架构思想”)。 ↩

  15. 出处:「17.2.3」第 259 段(text/18-ch17.txt:259,搜“打鸣后几分钟太阳升起”)、第 266 段(text/18-ch17.txt:266,搜“高级的相关性学习器”)、第 276 段(text/18-ch17.txt:276,搜“反事实推断”)。 ↩

  16. 出处:「17.2.4」第 282 段(text/18-ch17.txt:282,搜“灾难性遗忘”)、第 284 段(text/18-ch17.txt:284,搜““阶段性重训”)、第 296 段(text/18-ch17.txt:296,搜“海马体和新皮层”)。 ↩

  17. 出处:「17.2.5」第 314 段(text/18-ch17.txt:314,搜“组合式的物理推演”)、第 7 段(text/18-ch17.txt:7,搜““做”和“看”是不一样的”)。 ↩

  18. 出处:「17.2.6」第 332 段(text/18-ch17.txt:332,搜“刚刚出生的”)、第 340 段(text/18-ch17.txt:340,搜“也就消散了”)、第 353 段(text/18-ch17.txt:353,搜““自我账本””)。 ↩

  19. 出处:「17.3.1」第 376 段(text/18-ch17.txt:376,搜“五个里程碑”)、第 380 段(text/18-ch17.txt:380,搜“L2 到 L3 附近”)、第 381 段(text/18-ch17.txt:381,搜“粗略路标”)。 ↩ ↩2 ↩3

  20. 出处:「17.3」第 362 段(text/18-ch17.txt:362,搜“一道组合题”)。 ↩

  21. 出处:「17.3.2」第 436 段(text/18-ch17.txt:436,搜“幂律函数”)、第 448 段(text/18-ch17.txt:448,搜“不一定成立”)、第 450 段(text/18-ch17.txt:450,搜““数据”)。 ↩

  22. 出处:「17.3.3」第 469 段(text/18-ch17.txt:469,搜“按需分配”)、第 476 段(text/18-ch17.txt:476,搜“杠杆的支点还是基础模型本身”)。 ↩ ↩2

  23. 出处:「17.3.4」第 483 段(text/18-ch17.txt:483,搜“三天内就从零学到”)、第 484 段(text/18-ch17.txt:484,搜“约 4 小时”)、第 498 段(text/18-ch17.txt:498,搜“智能爆炸”)。 ↩ ↩2

  24. 出处:「17.3.5」第 506 段(text/18-ch17.txt:506,搜“一只猫能做的事情”)、第 520 段(text/18-ch17.txt:520,搜“进展缓慢”)。 ↩

  25. 出处:「17.3.6」第 524 段(text/18-ch17.txt:524,搜“多条路线的组合”)、第 528 段(text/18-ch17.txt:528,搜“逐渐趋同”)。 ↩

  26. 这句的原文位置在第 15 章与本章 17.3.5 的呼应处:原书 14.9(text/15-ch14.txt:888,搜“多条路径”)与本节具身路线(text/18-ch17.txt:514,搜“同样扎实的常识”)。 ↩

  27. 出处:「17.4.1」第 541 段(text/18-ch17.txt:541,搜“几千天内”)、第 545 段(text/18-ch17.txt:545,搜“最早在 2026 年到来”)、第 556 段(text/18-ch17.txt:556,搜“2028 年附近”)、第 565 段(text/18-ch17.txt:565,搜“每个外推环节都很脆弱”)。 ↩ ↩2

  28. 出处:「17.4.2」第 585 段(text/18-ch17.txt:585,搜“2047 年”)、第 585 段(text/18-ch17.txt:585,搜“2116 年”)、第 586 段(text/18-ch17.txt:586,搜“更谨慎”)。 ↩ ↩2

  29. 出处:「17.4.3」第 597 段(text/18-ch17.txt:597,搜“相差十倍以上”)与第 637 段(text/18-ch17.txt:637,搜“谁也说服不了谁”前的定义滑动段)。 ↩

  30. 出处:第 638 段(text/18-ch17.txt:638,搜“承认不确定性”)与第 644 段(text/18-ch17.txt:644,搜“现在就开始行动”)。 ↩ ↩2

  31. 出处:「17.5」第 653 段(text/18-ch17.txt:653,搜“时间尺度、世界模型”)。 ↩

  32. 出处:第 664 段(text/18-ch17.txt:664,搜“长上下文让它一次性看得更远”)、第 668 段(text/18-ch17.txt:668,搜“Kwa et al., 2025”)、第 669 段(text/18-ch17.txt:669,搜“可观测增长”)。 ↩

  33. 出处:第 678 段(text/18-ch17.txt:678,搜“较稳定表征”)与第 687 段(text/18-ch17.txt:687,搜“代价高昂的错误”)。 ↩

  34. 出处:第 696 段(text/18-ch17.txt:696,搜“多练几次”)、第 699 段(text/18-ch17.txt:699,搜“沿哪条链路扩散”)、第 702 段(text/18-ch17.txt:702,搜“更多前置计算换更”)。 ↩

  35. 出处:第 711 段(text/18-ch17.txt:711,搜“耦合深度和风险大小”)、第 713 段(text/18-ch17.txt:713,搜“释糊过去”)。 ↩

  36. 出处:第 721 段(text/18-ch17.txt:721,搜“完整行动周期里有多可靠”)。 ↩

  37. 出处:「17.6」第 730 段(text/18-ch17.txt:730,搜“行时系统，负责上下文编排”)、第 735 段(text/18-ch17.txt:735,搜““智能体操作系统””)、第 739 段(text/18-ch17.txt:739,搜“可靠性、可集成”)。 ↩

  38. 出处:第 747 段(text/18-ch17.txt:747,搜““谁定义了更容易”)、第 750 段(text/18-ch17.txt:750,搜“最容易成为他人基础”)。 ↩

  39. 出处:第 765 段(text/18-ch17.txt:765,搜“机器可读方式做承诺”)、第 769 段(text/18-ch17.txt:769,搜“在这些限制内承担这”)。 ↩

  40. 出处:第 779 段(text/18-ch17.txt:779,搜“接入可复用”)。 ↩

  41. 出处:「17.6.1」第 786 段(text/18-ch17.txt:786,搜““万能智能体””)。 ↩

  42. 出处:第 794 段(text/18-ch17.txt:794,搜“延长个人认知”)。 ↩

  43. 出处:第 809 段(text/18-ch17.txt:809,搜“隐私边界、责任边界和制度边界”)。 ↩

  44. 出处:第 103 段(text/18-ch17.txt:103,搜“必要条件”)与第 824 段(text/18-ch17.txt:824,搜“迁移成本”)。 ↩

  45. 出处:「17.7」第 837 段(text/18-ch17.txt:837,搜“可撤销的授权、可迁移的记忆、可验证的身份”)。 ↩

  46. 出处:第 846 段(text/18-ch17.txt:846,搜“能力闸门”)、第 852 段(text/18-ch17.txt:852,搜“发布与回滚一样”)。 ↩

  47. 出处:第 860 段(text/18-ch17.txt:860,搜““租用某个平台临时提”)。 ↩

  48. 出处:第 869 段(text/18-ch17.txt:869,搜““智能体信誉””)。 ↩

  49. 出处:第 884 段(text/18-ch17.txt:884,搜“数字主体”)。 ↩

  50. 出处:「17.7.1」第 888 段(text/18-ch17.txt:888,搜“组织化，是协”)。 ↩

  51. 出处:第 924 段(text/18-ch17.txt:924,搜“很难真正被系统遵守”)、第 926 段(text/18-ch17.txt:926,搜“偷偷外包给模型”)。 ↩

  52. 出处:第 935 段(text/18-ch17.txt:935,搜“监督预算”)、第 944 段(text/18-ch17.txt:944,搜“值得检查的部分”)。 ↩

  53. 出处:第 933 段(text/18-ch17.txt:933,搜““设计目标与监督闭环””)。 ↩

  54. 出处:「17.8」第 964 段(text/18-ch17.txt:964,搜“未必是能力最强的那个”)、第 966 段(text/18-ch17.txt:966,搜“关心另一些指”)。 ↩ ↩2

  55. 出处:「17.9.1」第 984 段(text/18-ch17.txt:984,搜““坐上高铁””)、第 993 段(text/18-ch17.txt:993,搜““亚里士多德小助手””)、第 995 段(text/18-ch17.txt:995,搜“古希腊偏见”)。 ↩

  56. 出处:「17.9.2」第 1009 段(text/18-ch17.txt:1009,搜“超过了社会适应的能力”)、第 1027 段(text/18-ch17.txt:1027,搜“操纵大脑奖励系统”)。 ↩

  57. 出处:第 1032 段(text/18-ch17.txt:1032,搜“25 位学者”)、第 1035 段(text/18-ch17.txt:1035,搜“不应该恐慌”)。 ↩ ↩2 ↩3

  58. 出处:「17.9.3」第 1042 段(text/18-ch17.txt:1042,搜“羸弱的能力恐怕用不了多久”)、第 1055 段(text/18-ch17.txt:1055,搜““智能爆炸””)、第 1057 段(text/18-ch17.txt:1057,搜“最后一项发明”)、第 1067 段(text/18-ch17.txt:1067,搜“令人信服的解决方案”)、第 1075 段(text/18-ch17.txt:1075,搜“足够驯服”)。 ↩ ↩2

  59. 出处:「17.9.4.1」第 1086 段(text/18-ch17.txt:1086,搜““意识的困难问题””)、第 1094 段(text/18-ch17.txt:1094,搜“也不是你的生活”)、第 1101 段(text/18-ch17.txt:1101,搜“我们是身体，不只是头脑”)。 ↩

  60. 出处:「17.9.4.2」第 1110 段(text/18-ch17.txt:1110,搜“放大人类”)。 ↩

  61. 出处:「17.9.4.3」第 1142 段(text/18-ch17.txt:1142,搜“最被低估的社会议题”)。 ↩

  62. 出处:「17.10」第 1169 段(text/18-ch17.txt:1169,搜“机器从数据中自己学”)。 ↩

  63. 出处:第 1180 段(text/18-ch17.txt:1180,搜“逐步变厚、变稳”)。 ↩

  64. 出处:第 1164 段(text/18-ch17.txt:1164,搜“陌生的智能邻居”)、第 1198 段(text/18-ch17.txt:1198,搜“共同写的书”)。 ↩