跳到主要内容

会写论文却比不出 9.11 和 9.9 谁大 — 锯齿状的智能与四种时间表

这一章讲三件事: 通用人工智能这个词从哪来、至少有几层意思,以及为什么「几年内就来」 的说法必须先问「你说的是哪一层」; 今天的能力地形长什么样(锯齿状)、通往远处的路有哪几条、每条路的赌注是什么; 时间表为什么从「几年」吵到「永远不会」,以及把所有不确定性叠起来之后, 那个真正属于读者的问题——人该成为什么样的人。

它在全书链条里的位置: 这是终点站,没有往后指的路。 前面各章的机制(涌现、长思考、智能体、具身、对齐)在这里汇成一个判断题; 第 26 章末尾留的「生存风险」悬念,也在本章第 13 节结账。

1. 一个词的七十年漂流​

1956 年夏天,一群学者在达特茅斯学院开了两个月的研讨会,主题是 「让机器做那些如果由人来做、会被认为是智能的事情」——他们乐观地相信,一个暑假就能取得实质进展; 之后的七十年证明,他们远远低估了这件事的难度1。

这个词的身世本身就是半部 AI 浮沉史2:早期根本不区分「狭义」和「通用」, 大家要造的就是「会思考的机器」;1980 年代专家系统兴起后,AI 被拆成医学、法律、化学一个个窄领域, 通用智能的愿景被搁置了二十多年;2000 年前后才有研究者重提原始目标, AGI 这个缩写在 2005 年前后开始流传。而在学术圈,它长期是个边缘甚至科幻色彩的词—— 严肃研究者怕被同行认为不务正业。转折是这两年:ChatGPT 之后, AGI 从学术边缘词汇变成了融资路演、政策白皮书、国际首脑会谈里的高频词3。

2. 四种通用人工智能,四套时间表​

「AGI 到底是什么?」——这个词在不同人口中是完全不同的东西。书里拆成层层递进的四层4:

层含义代表人物门槛
劳动替代能做大多数有经济价值的人类工作奥尔特曼反复说的「未来几年」大致指这层最务实:替代远程办公岗位即算数
人类水平广泛认知任务追平普通人哈萨比斯偏爱视觉+语言+动作的整合,今天还不及两岁孩子
超级智能几乎所有任务超过最优秀人类博斯特罗姆 2014 年的著作奠定讨论框架独立解决黎曼猜想级别的难题、设计更好的 AI
有意识有主观体验,「知道自己存在」哲学难题我们连章鱼有没有意识都没有共识

四层门槛层层递进:按第一层可能很快,按第二层更久,按第三层几十年甚至更久, 按第四层可能永远没有公认答案。所以书里给了一条防忽悠守则: 下次听到「某某说 AGI 五年内就来」,第一反应应该是——他说的是哪一层的 AGI?5

顺带一提,「有意识」这层连怎么判定都悬:图灵当年那场著名的测试,其实正是为了巧妙地绕开 「机器真的会思考吗」这个哲学难题——只看能不能让一个普通人误以为是人6。

3. 会考试,不等于会生活​

怎么判断它到了没有?AI 史上有一条奇怪规律:一个测试一旦被设计出来, 很快就会变成训练和优化的目标。图灵测试为绕开哲学而生,结果聊天机器人专攻 「让人短时间误以为你是人」;之后的阅读理解、数学竞赛、法律考试,基准一路升级, 像考试卷子越出越难的学校7。

基准不是没用,但有三个盲点8:题目可能被训练数据污染(考前背到原题的学生,看着神勇); 考试题有标准答案而真实世界没有(要不要裁员、要不要冒险尝试新疗法,都不是选择题); 模型一旦知道评分规则就可能学刷分。 书里的结论适合贴在墙上:会做奥数题很厉害,但如果它订机票忘记预算、写代码乱删数据库、 遇到不懂还装懂,就不能放心交给它经营一家公司——考霸不等于成年人,满分试卷不等于成熟人格9。

4. 主走查:锯齿状的智能​

传统观念里智能是一把尺子。但心理学家早就提出多元智能——爱因斯坦的物理天才不意味着 能像莫扎特作曲。AI 的能力分布更怪:锯齿状智能,这个词 2024 年被一位以教学著称的研究者叫响, 描述的是 AI 在某些维度远超人类、某些维度不如孩童, 而且维度之间的落差远大于人类个体之间的差异10。

主走查就是三个同身不同命的成绩单11:

  同一个模型——
  ✓ 几秒内读完超长报告并写出像样摘要        ← 超过许多普通人
  ✓ 把论文从英文译成法文、用多种语言写干净代码 ← 同上
  ✗ 比较「9.11 和 9.9 谁大」                ← 翻车
  ✗ 数一个单词里有几个字母                  ← 翻车
  ✓ 写一篇《如何在火星上种土豆》的论文        ← 毫无问题
  ✗ 让物理机器人把一把土豆从筐里抓进锅里     ← 可能根本做不到

这张图看的是锯齿的成因:智能的形状被训练数据的形状塑造—— 互联网文字多所以语言强,视频里的物理常识难标注所以物理常识弱, 机器人演示稀缺所以操作弱;哪里有海量数据哪里凸起,留下一道道深浅不一的沟壑12。

所以「AGI 到来没有」不是一个二元问题,更合理的问法是逐维度问: 哪些维度已经追平人类,哪些还差得远。书里给的趋势判断也在此: 「接近人类」一档在快速扩展,但「远低于人类」的根本性差距 (物理操作、因果推理、终身学习)可能不是简单扩大规模就能填平的—— 这正是各派时间表争吵的核心:你相信规模能解决一切,还是觉得有些问题需要新范式13。

5. 还没跨过的关卡​

从锯齿图往下钻,书里把当前大模型的根本局限整理成一道关卡图,一关一道14:

  • 事实性:只要目标仍是「生成最像样的文本」而不是「保证为真」, 幻觉就不是边缘 bug,而是通往 AGI 的硬障碍;必须在「会说得像」之外, 学会「能判断真伪」和「知道自己不知道」15;
  • 长期规划:查高铁、写小函数都行;给一个要持续几天、上千步决策的任务(从零做一款 App), 很快迷失——第 10 步说「决定用 React」,第 50 步说「我决定用 Vue」。 而且这不是窗口问题:研究显示模型会「看过但用不上」,过长的上下文反而稀释关键信息16;
  • 因果:第 6 节专讲;
  • 持续学习:第 7 节专讲;
  • 物理具身:一个可爱的测试——问它冰块放进半杯水会怎样,它答得很好; 问杯壁会怎样,也说对;问「倒转杯子冰块会掉出来吗」,它开始犹豫、时对时错, 因为这需要组合式物理推演,而训练数据里很少有完整描述17。

还有第六道,也是最深的空白:自我。模型没有持续的意图和目标,不记得自己昨天做过什么, 每次你问「你是谁」,它给出的「自我」是按当前上下文实时构造的—— 上下文结束,「自我」也就消散了18。 这层是不是 AGI 的必要条件没有共识;但书里给了一个务实的下界: 一个要连续运行几个月的智能体,至少需要一种工程上的「自我账本」—— 稳定记录「我在做什么、目标是什么、哪些承诺不能违背」19。

6. 相关容易,因果难​

因果推理先驱朱迪亚·珀尔爱讲一个例子20:公鸡打鸣和太阳升起高度相关, AI 看大量数据能完美预测「打鸣之后太阳会升」;但问它 「如果我们让所有公鸡都不打鸣,太阳还会升起吗?」它会懵——这个问题不在训练数据里, 需要真正的因果模型才能回答(答案当然是会:两者只是共同依赖「早晨」)。

当前的大模型本质上是高级的相关性学习器:分布内聪明,分布外抓瞎; 换光照、换角度准确率就掉——不是猫不再是猫,是模型未必学到「物体是什么」这个更稳定的因21。 而真正的科学家、医生、工程师,每天的核心工作恰恰是 「如果我做 X 会发生什么」这种反事实推断22。 第 23 章的冰淇淋与溺水、第 17 章的范式错配,在这里汇成同一道关。

7. 定格的大脑:学新的就忘旧的​

人 60 岁还记得小时候客厅的样子,同时在学新发布的 App。大模型不行: 训练一旦完成,基础参数基本「定格」;直接拿新数据续训,新梯度会覆盖旧知识—— 灾难性遗忘,一个几十年未解的经典难题23。 所以今天的大模型本质上是「阶段性重训,中间靠检索补丁」;每次真正更新基础知识, 都要重新大规模训练,烧掉大量 GPU 时和资金24。 混合模型、参数隔离、模仿海马体与新皮层分工……各种尝试都还没达到人类学习的自然稳健25。

8. 五阶段路标​

有一条粗糙但好用的尺子:2024 年披露的一份内部文件,把通往 AGI 的路切成五级26—— L1 对话者(ChatGPT 这代,你问它答)→ L2 推理者(o1、R1,数学竞赛编程竞赛明显超过上一代) → L3 智能体(接受高层目标、自己拆解、调用工具、持续数小时交付;编程助手与智能体产品在探这条路) → L4 创新者(做出人类没做过的科学、技术、艺术创新;AlphaFold 这类系统已在窄领域展示苗头) → L5 组织(协调成千上万个子任务,基本等同于 AGI,甚至接近超级智能)27。 书里给这把尺子的用法很冷静:谨慎者把今天放在 L2 到 L3 之间,乐观者认为在向 L4 靠近; 它的价值在帮你比较不同方向的进展,不在精确宣布「现在走到哪一级」28。

9. 继续变大这条路​

最主流的路线就是第 15 章那条直线本身:更多数据、更大模型、更强算力。 底气是一个十年间反复验证的观察:每次把规模提升一个数量级,能力都有可测的增长, 而且曲线光滑得出奇29。规模派还有第二件武器:涌现——某些能力过线即亮。 怀疑者则两头设卡:涌现有时和评测方式有关,别把每次曲线变陡都读成神秘质变; 而语言上的规律在长规划、因果、物理常识上未必成立, 且高质量人类文本不是无限的——数据、算力、能源、芯片任一受限,规模就可能撞墙30。

10. 长思考这条路​

第 17 章讲过的推理模型,在 AGI 地图上是一条独立的河:回答前先打草稿、试错、回头检查。 它证明了一个新原理:测试时扩展能显著提升某些任务,不一定只靠训练时变大; 思考时间还能按需分配——简单问题短思考,难题长思考,像人一样31。

但书里给这条河装了一个漂亮的物理比喻当刹车:推理模型是杠杆,它放大基础模型的能力, 可杠杆的支点还是基础模型本身——一个不懂微积分的模型,再长的思考也不会发明微积分32。

11. 自我进化这条路,与智能爆炸的幽灵​

最有历史分量的先例是那台不看任何人类棋谱、纯靠自我对弈几天就远超人类冠军的围棋系统33。 把思路推广:设定目标、执行、从结果学习、更新策略——「AI 训练 AI」的循环可能进步极快; 数学侧已经有示范:把猜想转化成可验证的形式化语言,在「证明游戏」里搜索、验证、从成功中学习, 拿到奥赛银牌34。风险随之而来:如果 AI 真能自我改进,递归(用自己的输出当下一轮的输入)地设计更聪明的下一代, 就是「智能爆炸」——AI 安全领域最担心的场景之一35。

这个幽灵比很多人以为的年纪大。图灵在 1951 年的一次谈话里就直白地说过: 一旦机器思考启动,超过我们「恐怕用不了多久」,某个阶段我们恐怕得预料机器会接管控制—— 没有惊惶,也没有解决方案。1965 年,一位和图灵共事过的数学家给忧虑加上递归的骨架, 并留下那句被引用至今的话:第一台超智能机器,可能是人类的最后一项发明—— 前提是它足够可控。那个「只要」里,藏着今天所有 AI 安全研究的核心挑战36。 具体到现实:专攻这个问题的「超对齐」团队组建又解散的往事,第 26 章第 13 节已经讲过37。

书里同时对五条路线做了收拢:它们并不互斥——规模给知识,长思考给解题, 智能体给行动,自我进化给改进,世界模型和具身给真实世界; 真实的路线不是单选题,是组合题,哪条河更宽还没人知道38。

12. 从身体里学这条路​

第五条河由「具身派」把守。其主帅有一句广泛流传的名言: 「一只猫能做的事情,比最先进的大语言模型还多。」39 替代方案是第 24 章见过的 JEPA:让 AI 在抽象表示空间里学世界规律,不死记像素或文字。 支持论证你已熟悉:今天的大模型读过无数关于「杯子打翻」的描述,但没有亲手打翻过任何东西40。 质疑者的反驳也在:具身学习样本效率极低、成本极高、进展缓慢; 也许数字世界的智能体会先成熟,能进厨房进工厂的具身智能还要走更长的路41。 做和看是不是一回事,仍是未被回答的核心命题42。

13. 时间表为什么差十倍​

现在把所有预测放上同一根时间轴,差距一目了然43:

阵营人物与预测
乐观某实验室 CEO:「强大的 AI」最早 2026;前研究员长文:2027 AGI、2030 超级智能
乐观DeepMind 联合创始人:2028 年前后有约五成概率(自 2011 年起十几年未大幅改动)
中间另一位 CEO:「几千天」——十年量级的方向判断
数据2778 名机器学习研究者的调查:「机器无辅助胜过人类每项任务」的五成中位年 2047;「所有人类工作被自动化」远至 2116
保守「大语言模型是死胡同」「看着我的小孩学走路你就知道 AGI 要多难」——几十年,需要全新架构
保守著名批评者:当前路线无论怎么扩大规模都解决不了常识、因果、组合性

同一群站在领域顶端的人,给出了相差十倍以上的判断——这种全光谱分歧在科学史上并不常见44。 分歧的根源,书里拆成四层45: 对规模外推的信心不同;对智能本质的理解不同(聪明是「能解题」还是「稳健地理解世界并行动」—— 这是哲学差异);立场与利益不同(乐观助融资,学界对宏大断言保持警惕——不意味着谁说谎); 以及最技术性的一条:「AGI」本身是个滑动的词,各派常常在用不同定义辩论,自然谁也说服不了谁。

分歧还延伸到那个更远的担忧:生存风险。第 26 章末尾留的账在这里结: 权威学者离职警告、两封 mass 签名公开信(一封呼吁暂停更大模型六个月,一封一句话—— 「减轻 AI 灭绝风险应与流行病和核战争并列」)、以及同样权威的反驳(「炒作生存风险是转移视线」)。 书里的中立立场给了双方台阶:风险的严重性和概率都未知,但不应假设风险为零—— 正因为不确定,才值得认真对待;就像不知道小行星撞不撞,投入适度资源去监测是合理的46。 最诚实的态度是承认不确定:AGI 可能三年内到、可能三十年不到、可能永远以我们没预料的形式到来; 谦卑比自信的预测更明智。但不确定不是袖手旁观的理由——两种未来都需要现在就开始准备47。

14. 人在这个时代的位置​

假设那天真的到来,人剩下什么?书里给了四样「不会被替代的」48: 有意识的主观体验(夕阳的震撼、失去亲人的悲痛——哲学家称之为意识的困难问题); 扎根于经验的价值判断(价值的合法性来自人类的同意,「别人替你决定了什么对你好, 无论多正确也不是你的生活」);人与人之间的真实连接(AI 能模仿情感, 但它和你不是「经历过同样事情的人」之间的关系);身体的存在—— 我们是身体,不只是头脑49。

更建设性的框架是协作而非替代:电脑没让会计师失业,计算器没让数学家失业; AGI 提供广博、快速、不疲劳的执行,人提供价值判断、创造性和对真实世界的连接50。 雏形已经可见:程序员转向「架构师加审查者」,律师仍要核对签字负法律责任,医生的安抚仍由人做51。 而教育——这个为工业社会培养标准化劳动力的体系——被书里判为可能严重过时: 新时代该学的是提出好问题、在不确定中决策、跨学科整合、与人协作、理解自己, 把重点从「记住知识」转向「运用知识」52。

全书的结语也值得原样带走53:AI 是少数能够与我们讨论自身影响的技术之一—— 火不会替自己辩护,印刷术不会反思传播的内容,而 AI 既是工具,又已带有某种「半主体」的影子; 与这样的存在共处,不神化、不恐惧、不轻信,也不放弃主导,是这一代人必须共同回答的问题。 方向不该只由少数公司、少数国家、少数精英决定—— 不参与,就是默认让别人替你决定未来54。

15. 作者的判断与证据​

有证据的部分。 达特茅斯会议、四层定义与各家人物的公开立场、专家调查的 2778 人样本与 2047/2116 两个中位数、五阶段路标、奥赛银牌、图灵与 1965 年那篇推测的原文,均有出处。

要分开看的四处:

  1. 五阶段是公司路线图不是科学分类。 书里自己说它「更像内部规划和对外沟通用的路标」28, 各级边界的划法存在争议。
  2. 专家调查的中位数有已知的滞后性。 这类调查统计的是研究者群体的平均预期, 历史上多次被突进的技术现实甩开;反过来它也过滤了路演式乐观——两个方向的偏差都有。
  3. 乐观派名单里的人物和承诺会变。 「最早 2026」是 2024 年 10 月一篇文章的开篇姿态, 阅读时请保留出版日期意识43。
  4. 「猫能做的事比大模型多」是修辞性论断。 它标记的是具身派的直觉方向, 不是可操作的基准;猫究竟「会做什么」的清单,书里没有展开。

判断(我们的,不是书里的):四种 AGI 定义里,真正值得盯的是第一层——因为只有它有考卷。 「人类水平」「超级智能」「有意识」都无法观测,而「能否替代大多数有经济价值的工作」 是一个正在被现实逐季作答的多选题:每次裁员新闻、每份自动化财报都是它的答题卡。 别的层吵的是哲学,这一层跑的是进度条。看进度条,听哲学,别把后者当前者的预测。 如果错,会错在: 「有经济价值的工作」本身是滑动的(新岗位被不断发明出来), 进度条可能永远爬不到 100% 而世界早已面目全非——届时第一层的「可观测性」也救不了它。

判断(我们的,不是书里的):时间表的十倍分歧,恰恰是普通人最该收集的信息。 分歧不是噪音,是结构:它告诉你哪些变量(定义、规模外推、具身进展)真正决定结局, 而共识性的高置信预测往往只是把当下线性外推。实用规则:当专家方差达到十倍时, 个人决策不该押注任何单一时点,而应押注「哪个维度会先补齐锯齿」—— 这是唯一能被逐季验证、且直接关联个人职业选择的量。 如果错,会错在: 若某一维(如长任务可靠性)出现跃迁式的突变而非渐进补齐, 「逐季观察」会系统性迟到——但那恰恰是本章第 13 节要求两手准备的原因。

16. 边界与局限​

  • 本章是展望,不是预言。 书里自己定位为「开放式的展望……给你一个思考的起点」55。
  • 意识问题只有地图。 哲学僵尸、困难问题、蜜蜂反例,各一段;没有任何裁决18。
  • 五阶段的L4/L5 缺乏可操作判据。 「创新」「组织」怎么测,没有任何基准,书里承认粗糙28。
  • 各国治理细节交给第 26 章。 本章只在风险清单里点名,不重复展开。
  • 专家调查的口径是「无辅助完成每项任务」,与各家 CEO 口中的 AGI 定义不同层, 两列数字不可直接比大小43。

17. 可带走的​

  1. 1956 年的那个暑假没能解决智能;之后七十年大部分时间,「通用」这个愿景在搁浅。
  2. AGI 至少四层:劳动替代、人类水平、超级智能、有意识。 听到「五年内」先问是哪层。
  3. 有意识那层连判定方法都没有; 图灵测试的本职就是绕开它。
  4. 基准会变成训练目标:被污染、无标准答案、可刷分——考霸不等于成年人。
  5. 主走查的三连:写火星论文满分、比 9.11 和 9.9 翻车、机器人抓土豆做不到。 智能是锯齿。
  6. 锯齿的成因是数据的形状: 哪里有海量数据哪里凸起。
  7. 六道关卡:事实性、长规划、因果、持续学习、物理具身、自我; 最后一关先要一本「自我账本」。
  8. 公鸡不打鸣太阳还升不升—— 分布外反事实,相关性学习器答不上。
  9. 续训会覆盖旧知识; 今天的大模型是「阶段重训 + 检索补丁」。
  10. 五级路标是对比的尺子,不是打卡的里程碑; 谨慎派放 L2–L3,乐观派说在向 L4 爬。
  11. 规模、长思考、自我进化、具身——最后是组合题; 长思考是杠杆,支点还是底座。
  12. 第一台超智能机器可能是人类最后一项发明——前提是足够可控。 那个「只要」最贵。
  13. 2047 与 2116:研究者群体的中位预期,比发布会措辞保守得多。
  14. 分歧的四层来源:信心、智能观、立场、定义—— 全光谱分歧本身就是信息。
  15. 不会替代的四样:主观体验、价值判断、真实连接、身体的存在。 我们是身体,不只是头脑。
  16. 不参与,就是默认让别人替你决定未来。

18. 原文地图​

主题原书章原文位置
独角兽与 155 页论文第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:13(搜「TikZ」)· :20(搜「火花」)
AGI 上桌第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:23(搜「Artificial General Intelligence」)
达特茅斯与暑假第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:36(搜「达特茅斯」)· :42(搜「远远低估」)
搁置二十多年第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:47(搜「搁置」)· :49(搜「原始目标」)
从边缘到高频词第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:52(搜「不务正业」)· :55(搜「高频词」)
四层定义第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:60(搜「层层递进」)· :62(搜「劳动替代」的位置以检索为准)· :69(搜「平均人类」)· :75(搜「超级智能」)· :80(搜「章鱼」)
哪一层之问第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:86(搜「第一反应」)· :86(搜「哪一层」)
图灵回避意识第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:608(搜「图灵测试」)· :83(搜「误以为是人类」)
基准变目标第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:91(搜「训练和优化的目标」)· :96(搜「越出越难」)
三个盲点第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:98(搜「污染」)· :100(搜「刷分」)
考霸不等于成年人第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:104(搜「经营一家公司」)· :105(搜「成熟人格」)
锯齿状智能命名第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:114(搜「锯齿状」)· :116(搜「孩童」)
主走查三连第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:119(搜「9.11」)· :120(搜「火星上种土豆」)· :121(搜「筐里」)
数据塑形第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:124(搜「按数据来」)· :126(搜「沟壑」)
不是二元问题第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:127(搜「二元问题」)· :133(搜「填平」)· :135(搜「新的范式」)
关卡图第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:102(搜「开放世界」)· :164(搜「像真不等于真」)
幻觉硬障碍第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:186(搜「硬障碍」)· :193(搜「知道自己不知道」)
长期规划跑偏第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:201(搜「React」)· :203(搜「迷失方向」)· :207(搜「看过但用不上」)
自我账本第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:279(搜「消散」)· :286(搜「自我账本」)
公鸡打鸣第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:222(搜「公鸡打鸣」)· :224(搜「还会升起吗」)
分布内外第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:226(搜「相关性学习器」)· :233(搜「抓瞎」)
定格的大脑第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:239(搜「定格」)· :242(搜「灾难性遗忘」)· :244(搜「检索补丁」)
冰块测试第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:258(搜「冰块」)· :260(搜「倒转」)· :261(搜「组合式」)
具身派与做看之别第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:265(搜「杨立昆」)· :269(搜「做」和「看」)
没有持续自我第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:274(搜「刚刚出生」)· :278(搜「实时构造」)
五阶段第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:309(搜「彭博社」)· :314(搜「路标」)· :333(搜「对话者」)· :339(搜「Agents」)· :343(搜「创新者」)· :348(搜「组织」)
定位分歧第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:312(搜「L2」)· :313(搜「科学定理」)
规模路线与瓶颈第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:357(搜「光滑」)· :366(搜「神秘质变」)· :370(搜「无限」)· :371(搜「瓶颈」)
长思考与杠杆第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:380(搜「草稿」)· :388(搜「按需分配」)· :392(搜「杠杆」)· :393(搜「支点」)
自我进化与银牌第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:397(搜「AlphaZero」)· :404(搜「证明游戏」)· :405(搜「银牌」)
智能爆炸第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:412(搜「智能爆炸」)
猫的名言与 JEPA第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:419(搜「一只猫」)· :420(搜「JEPA」)
没打翻过杯子第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:426(搜「打翻」)· :431(搜「更长的路」)
组合题第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:292(搜「河流」)· :295(搜「组合题」)· :441(搜「几十年」)
乐观派时间表第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:451(搜「几千天」)· :455(搜「2026」)· :458(搜「2028」)· :465(搜「Situational」)
保守派反论第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:475(搜「死胡同」)· :483(搜「马库斯」)· :493(搜「这一次不一样」)
专家调查 2047/2116第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:486(搜「2778」)· :487(搜「2047」)· :488(搜「2116」)
全光谱分歧第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:496(搜「十倍以上」)· :497(搜「全光谱」)
分歧四根源第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:522(搜「外推」)· :527(搜「哲学差异」)· :530(搜「融资」)· :534(搜「滑动的词」)
谦卑与两手准备第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:537(搜「谦卑」)· :541(搜「现在就开始行动」)
亚里士多德小助手第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:558(搜「亚里士多德」)· :560(搜「偏见」)
四样不会被替代第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:641(搜「主观体验」)· :648(搜「合法性」)· :652(搜「共同时间」)· :655(搜「身体」)
协作而非替代第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:660(搜「会计师」)· :666(搜「放大」)
教育的转变第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:686(搜「标准化」)· :689(搜「好问题」)· :694(搜「最被低估」)
半主体的邻居第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:704(搜「半主体」)· :709(搜「不神化」)
不参与即默认第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:716(搜「少数精英」)· :719(搜「不参与」)
共同写的书第16章 通往通用智能:AI 的下一站text/17-ch16-16-ai.txt:733(搜「共同写的书」)

Footnotes​

  1. 出处:「第16章 通往通用智能:AI 的下一站」第 36 至 43 段 (text/17-ch16-16-ai.txt:37,搜「麦卡锡」;:40,搜「智能的事情」;:42,搜「远远低估」)。 ↩

  2. 出处:「第16章 通往通用智能:AI 的下一站」第 44 至 50 段 (text/17-ch16-16-ai.txt:47,搜「窄 AI」;:47,搜「搁置」)。 ↩

  3. 出处:「第16章 通往通用智能:AI 的下一站」第 51 至 55 段 (text/17-ch16-16-ai.txt:52,搜「不务正业」;:54,搜「中心议题」)。 ↩

  4. 出处:「第16章 通往通用智能:AI 的下一站」第 58 至 83 段 (text/17-ch16-16-ai.txt:61,搜「劳动替代」按原文实为「经济上有价值」处检索;:74,搜「超过人类」;:79,搜「主观体验」)。 ↩

  5. 出处:「第16章 通往通用智能:AI 的下一站」第 84 至 86 段 (text/17-ch16-16-ai.txt:86,搜「哪一层」)。 ↩

  6. 出处:「第16章 通往通用智能:AI 的下一站」第 81 至 83 段 (text/17-ch16-16-ai.txt:608,搜「图灵测试」)。 ↩

  7. 出处:「第16章 通往通用智能:AI 的下一站」第 91 至 96 段 (text/17-ch16-16-ai.txt:92,搜「哲学难题」;:95,搜「越出越难」)。 ↩

  8. 出处:「第16章 通往通用智能:AI 的下一站」第 98 至 101 段 (text/17-ch16-16-ai.txt:98,搜「污染」;:100,搜「标准答案」;:101,搜「刷分」)。 ↩

  9. 出处:「第16章 通往通用智能:AI 的下一站」第 102 至 105 段 (text/17-ch16-16-ai.txt:103,搜「订机票」;:105,搜「成熟人格」)。 ↩

  10. 出处:「第16章 通往通用智能:AI 的下一站」第 109 至 116 段 (text/17-ch16-16-ai.txt:110,搜「多元智能」;:115,搜「Jagged」)。 ↩

  11. 出处:「第16章 通往通用智能:AI 的下一站」第 117 至 121 段 (text/17-ch16-16-ai.txt:117,搜「摘要」;:119,搜「9.11」;:120,搜「火星上种土豆」)。 ↩

  12. 出处:「第16章 通往通用智能:AI 的下一站」第 123 至 126 段 (text/17-ch16-16-ai.txt:124,搜「标注数据」;:126,搜「沟壑」)。 ↩

  13. 出处:「第16章 通往通用智能:AI 的下一站」第 127 与 131 至 135 段 (text/17-ch16-16-ai.txt:131,搜「接近人类」;:133,搜「填平」;:134,搜「规模能解决」)。 ↩

  14. 出处:「第16章 通往通用智能:AI 的下一站」第 157 至 161 段 (text/17-ch16-16-ai.txt:161,搜「下一道门」)。 ↩

  15. 出处:「第16章 通往通用智能:AI 的下一站」第 184 至 193 段 (text/17-ch16-16-ai.txt:186,搜「硬障碍」;:190,搜「反思链」;:193,搜「知道自己不知道」)。 ↩

  16. 出处:「第16章 通往通用智能:AI 的下一站」第 196 至 208 段 (text/17-ch16-16-ai.txt:198,搜「记账 App」;:202,搜「React」;:207,搜「稀释」)。 ↩

  17. 出处:「第16章 通往通用智能:AI 的下一站」第 257 至 261 段 (text/17-ch16-16-ai.txt:259,搜「雾气」;:260,搜「犹豫」)。 ↩

  18. 出处:「第16章 通往通用智能:AI 的下一站」第 272 至 282 段 (text/17-ch16-16-ai.txt:273,搜「持续自我」;:279,搜「消散」;:282,搜「哲学僵尸」)。 ↩ ↩2

  19. 出处:「第16章 通往通用智能:AI 的下一站」第 283 至 286 段 (text/17-ch16-16-ai.txt:286,搜「自我账本」)。 ↩

  20. 出处:「第16章 通往通用智能:AI 的下一站」第 221 至 225 段 (text/17-ch16-16-ai.txt:221,搜「珀尔」;:224,搜「升起吗」)。 ↩

  21. 出处:「第16章 通往通用智能:AI 的下一站」第 226 至 230 段 (text/17-ch16-16-ai.txt:226,搜「相关性学习器」;:230,搜「分布变了」)。 ↩

  22. 出处:「第16章 通往通用智能:AI 的下一站」第 232 至 235 段 (text/17-ch16-16-ai.txt:234,搜「反事实」)。 ↩

  23. 出处:「第16章 通往通用智能:AI 的下一站」第 238 至 242 段 (text/17-ch16-16-ai.txt:239,搜「定格」;:242,搜「覆盖」)。 ↩

  24. 出处:「第16章 通往通用智能:AI 的下一站」第 243 至 245 段 (text/17-ch16-16-ai.txt:244,搜「检索补丁」)。 ↩

  25. 出处:「第16章 通往通用智能:AI 的下一站」第 246 至 251 段 (text/17-ch16-16-ai.txt:247,搜「弹性权重巩固」;:249,搜「海马体」)。 ↩

  26. 出处:「第16章 通往通用智能:AI 的下一站」第 309 与 312 至 314 段 (text/17-ch16-16-ai.txt:309,搜「2024 年 7 月」;:313,搜「科学定理」)。 ↩

  27. 出处:「第16章 通往通用智能:AI 的下一站」第 333 至 350 段 (text/17-ch16-16-ai.txt:327,搜「对话者」;:336,搜「Reasoners」;:340,搜「Agents」;:344,搜「创新者」;:349,搜「Organizations」)。 ↩

  28. 出处:「第16章 通往通用智能:AI 的下一站」第 311 至 314 段 (text/17-ch16-16-ai.txt:312,搜「L2」;:314,搜「路标」)。 ↩ ↩2 ↩3

  29. 出处:「第16章 通往通用智能:AI 的下一站」第 353 至 359 段 (text/17-ch16-16-ai.txt:357,搜「光滑」;:358,搜「幂律」)。 ↩

  30. 出处:「第16章 通往通用智能:AI 的下一站」第 364 至 371 段 (text/17-ch16-16-ai.txt:367,搜「指标尺度」;:369,搜「因果推理」;:370,搜「无限」)。 ↩

  31. 出处:「第16章 通往通用智能:AI 的下一站」第 378 与 386 至 388 段 (text/17-ch16-16-ai.txt:13,搜「草稿」;:388,搜「按需分配」)。 ↩

  32. 出处:「第16章 通往通用智能:AI 的下一站」第 390 至 393 段 (text/17-ch16-16-ai.txt:391,搜「微积分」;:392,搜「杠杆」;:393,搜「支点」)。 ↩

  33. 出处:「第16章 通往通用智能:AI 的下一站」第 396 至 399 段 (text/17-ch16-16-ai.txt:397,搜「AlphaZero」;:399,搜「几个小时」)。 ↩

  34. 出处:「第16章 通往通用智能:AI 的下一站」第 402 至 405 段 (text/17-ch16-16-ai.txt:403,搜「Lean」;:405,搜「四题」)。 ↩

  35. 出处:「第16章 通往通用智能:AI 的下一站」第 406 与 412 至 414 段 (text/17-ch16-16-ai.txt:412,搜「自我改进」;:413,搜「智能爆炸」)。 ↩

  36. 出处:「第16章 通往通用智能:AI 的下一站」第 601 与 609 至 616 段 (text/17-ch16-16-ai.txt:603,搜「羸弱」;:614,搜「最后一项发明」;:616,搜「足够可控」)。 ↩

  37. 出处:「第16章 通往通用智能:AI 的下一站」第 622 至 624 段 (text/17-ch16-16-ai.txt:622,搜「20% 的算力」;:624,搜「雷克」)。 ↩

  38. 出处:「第16章 通往通用智能:AI 的下一站」第 292 至 295 与 433 至 441 段 (text/17-ch16-16-ai.txt:292,搜「河流」;:295,搜「组合题」;:439,搜「趋同」)。 ↩

  39. 出处:「第16章 通往通用智能:AI 的下一站」第 417 至 419 段 (text/17-ch16-16-ai.txt:419,搜「一只猫」)。 ↩

  40. 出处:「第16章 通往通用智能:AI 的下一站」第 424 至 427 段 (text/17-ch16-16-ai.txt:426,搜「打翻过」)。 ↩

  41. 出处:「第16章 通往通用智能:AI 的下一站」第 430 至 431 段 (text/17-ch16-16-ai.txt:430,搜「样本效率」;:431,搜「更长的路」)。 ↩

  42. 出处:「第16章 通往通用智能:AI 的下一站」第 268 至 270 段 (text/17-ch16-16-ai.txt:269,搜「核心命题」)。 ↩

  43. 出处:「第16章 通往通用智能:AI 的下一站」第 449 至 468 段 (text/17-ch16-16-ai.txt:451,搜「几千天」;:455,搜「Machines of Loving Grace」;:458,搜「2028」;:486,搜「2778」)。 2047 与 2116 两个中位数在第 487 至 488 段(text/17-ch16-16-ai.txt:487,搜「2116」)。 ↩ ↩2 ↩3

  44. 出处:「第16章 通往通用智能:AI 的下一站」第 494 至 497 段 (text/17-ch16-16-ai.txt:496,搜「十倍以上」;:497,搜「全光谱」)。 ↩

  45. 出处:「第16章 通往通用智能:AI 的下一站」第 521 至 535 段 (text/17-ch16-16-ai.txt:522,搜「外推」;:527,搜「哲学差异」;:530,搜「融资」;:534,搜「滑动的词」)。 ↩

  46. 出处:「第15章 脆弱的巨人:AI 的风险与挑战」第 858 至 890 段 (text/16-ch15-15-ai.txt:858,搜「暂停大型」;:864,搜「灭绝风险」;:886,搜「不应假设风险为零」;:888,搜「小行星」)。 ↩

  47. 出处:「第16章 通往通用智能:AI 的下一站」第 536 至 541 段 (text/17-ch16-16-ai.txt:537,搜「谦卑」;:541,搜「开始行动」)。 ↩

  48. 出处:「第16章 通往通用智能:AI 的下一站」第 638 至 639 段 (text/17-ch16-16-ai.txt:639,搜「独有的」)。 ↩

  49. 出处:「第16章 通往通用智能:AI 的下一站」第 640 至 656 段 (text/17-ch16-16-ai.txt:642,搜「困难问题」;:648,搜「同意」;:652,搜「共同时间」;:655,搜「头脑」)。 ↩

  50. 出处:「第16章 通往通用智能:AI 的下一站」第 659 至 666 段 (text/17-ch16-16-ai.txt:660,搜「会计师」;:666,搜「放大」)。 ↩

  51. 出处:「第16章 通往通用智能:AI 的下一站」第 669 至 672 段 (text/17-ch16-16-ai.txt:670,搜「架构师加审查者」;:671,搜「签字」)。 ↩

  52. 出处:「第16章 通往通用智能:AI 的下一站」第 685 至 694 段 (text/17-ch16-16-ai.txt:686,搜「工业社会」;:689,搜「好问题」;:692,搜「运用知识」)。 ↩

  53. 出处:「第16章 通往通用智能:AI 的下一站」第 702 至 709 段 (text/17-ch16-16-ai.txt:704,搜「半主体」;:709,搜「不神化」)。 ↩

  54. 出处:「第16章 通往通用智能:AI 的下一站」第 716 至 719 段 (text/17-ch16-16-ai.txt:717,搜「贡献代码」;:719,搜「不参与」)。 ↩

  55. 出处:「第16章 通往通用智能:AI 的下一站」第 25 至 28 段 (text/17-ch16-16-ai.txt:25,搜「开放式的展望」;:28,搜「清醒和主动」)。 ↩