跳到主要内容

什么时候不该用它 — Rockhound 与收手的判据

这一章讲三件事: 一次真实的翻车——让 ChatGPT 写五十个州的官方岩石, 它把「岩石」写成「矿物」「宝石」「金属」;一张 AI 生成、一字未改的假童书页, 怎么逐句拆穿;以及全书收束的那条判据——「对的工具」未必是 AI 工具, 收手也是 fluency 的一部分。

1. 这一章讲什么​

前面十章都在回答「怎么用好」。这一章专门回答反过来的问题: 什么时候别用。 Rockhound(拾石爱好者)游戏的外壳朴素到容易小看: 给一本关于各州官方岩石的儿童绘本当编辑,核查 AI 写的书稿、配上真实的插图。 但作者给它的定位相当高——一个「外表温和、内里凶悍」的游戏, 专门逼学生重估自己对 AI 的依赖1。书的结论章(第 19 章)在这一章汇合: 把「知道何时收手」钉成 fluency 的最后一根柱子。

2. 顶层全景:一张「用/不用」的决策图​

  这件事 AI 干得靠谱吗?
      │
      ├─ 是 文本降级(改写难懂的材料)、语法润色、语法与语气编辑
      │      → 用,但仍要抽查
      │
      ├─ 看情况 事实性内容(数据、史实、名词)
      │      → 核实成本 ≤ 自查成本时才用;本书案例:核实成本反而更高
      │
      └─ 否 「帮你省时间」的生成任务,若核实要逐句查证
             → 搜官方来源更快;此路不通就换路

  图说:判据不是「AI 会不会」,是「AI 加核实的总账,比直接自己干便宜吗」。

3. 核心原理​

3.1 主走查:州岩石事故与那张假页​

事故的起因是一次家长式用例。 ChatGPT 刚发布时,作者想给认识的两个 爱捡石头的小孩做一本「各州官方岩石」绘本。它吐得飞快,但她逐条核实时发现: 数据经常讲的是该州的官方矿物、宝石——内华达等几个州,甚至讲成了 官方金属;几个小时核下来,她把「整堆幻觉」扔掉,改用搜索引擎查各州官网2。 背景知识一句:美国很多州确实同时有 state rock、state mineral、state gemstone 三套命名——内华达的官方金属是银,官方岩石是砂岩。AI 把三套荣誉 混成一锅,恰好是「流利掩盖错误」(第 03 章)在儿童读物体裁里的样子。

事故变成了游戏。 学生的任务就是作者干过的活:扮出版社编辑,核查 「被开除的写手 I. B. Ai」交来的书稿——每一页查错、记录不实之处、 重写捏造的页目、配插图(插图还要再拿真实照片核对),全流程留档3。 教师端的毒招:让 AI 写稿时故意混入讲矿物、宝石、金属的页面; 如果能选模型版本,选最老的那个,保证拿到一些离谱货4。

书里给了一页一字未改的 Copilot 实物当「假页标本」5。它的机制值得整段拆开, 因为它演示了最危险的一类幻觉:叙事完美、细节真实、结论虚构:

  标本页:「内华达的白银秘密」(Copilot 免费版生成,一字未改)
  ✔ 真实成分:康斯托克矿脉确有其事;白银确实助推过内华达的建州史;
    「银州」的绰号、银在太阳能板与医疗器材里的用途,都对。
  ✘ 虚构成分:页面整个讲的是"银"——但银是内华达的官方金属,
    官方岩石是砂岩。而且页面还编造了一段"2023 年,Dayton 小学
    四年级学生写信推动立法,银终于被加冕为州岩石"的暖心剧情。
  ✘ 更深一层:Copilot 没有做任何核验——它顺着自己编的故事讲到底,
    还把"孩子们改变了历史"的动人弧光套在上面。

  图说:错误信息若包装成励志故事,核查的意愿会被情感先吃掉一半。

书里的结论句放在全章的 debriefing(复盘)讨论里: 「干活的对的工具,可能不是 GenAI 工具」——不过它补了一句公平话: GenAI 仍是合格的文本降级器(把难懂文本改写成指定阅读水平的版本) 和语法编辑6。

3.2 时间账:省的时间去哪了​

「AI 更快」是个待验证的命题(待检验的主张),书里给了三笔账。第一笔在文本侧: AI 十秒吐出书目数据,核实它们花掉作者「几个令人沮丧的小时」—— 最终弃用2。第二笔在图像侧:生成一张图的耗电约是文字的 30 倍 (第 06 章讲过),而作者试过的零样本图像(不给范例直接要) 时对时错,搜公有领域图库反而更快更可靠7。第三笔是全班的: debriefing 里要正式辩论的题目就是——「算上核实文本与图像的时间, 依赖 GenAI 到底还值不值?」8。

书里还有一个轻巧的课堂实验配这条账:作者把自家狗的真实照片和 同品种的 AI 生成照混在一起让学生挑真的,每次都有人挑错9—— 连「看起来真」都不能再作为省核实步骤的理由。

3.3 版权直觉与法律相反​

第 04 章立过规则:纯 AI 输出无版权;只有人对它做出足够多的创造性表达 才可能获得保护——仅仅提供提示词不算10。Rockhound 章补上了 人这一侧的反常数据:一项对 26 名韩国与 4 名越南大学生的研究, 学生普遍认为 AI 依自己的提示生成的画属于自己;输入的提示与迭代越多, 他们越觉得自己拥有版权——与版权局的立场完全相反11。

这两条并排读,得到一个实用的课堂动作:别指望学生的「我感觉这是我做的」 当版权判断;把「迭代越多越像自己的」这个心理效应当教材讲—— 它恰好也解释了为什么 AI 时代的学术诚实需要外部规则,不能靠自觉。

3.4 收手判据:全书结论章的落点​

Rockhound 的结尾借了肯尼·罗杰斯的《The Gambler》收账: 有时候,对 AI 生成的内容和插图「弃牌」(fold 'em)才是最好的选择12。 结论章(第 19 章)把这条升格为全书总纲:作者重申「我们永远在用最差版本」; 她最高的一条信条仍是让人留在环里,盯着 AI 对我们做了什么 ——她自己的例子是:嵌入(长驻)各处的 GenAI 按她的名字猜了人群,常年给她推 西班牙语广告,而她的西语水平「和编程水平差不多」13。 全书的最后一句话给了教师:学生会造就未来,教育者能塑造那个未来—— 这就是教 fluency 的真正潜力14。

4. 作者的判断与证据​

本章的证据结构很规整,一层个人事故、一层实物标本、一层研究数据: 个人事故(州岩石绘本翻车)提供动机;实物标本(Copilot 假页, 作者声明一字未改)提供可拆解的案例;研究数据(Hwang 的 30 名学生) 提供与法律相抵触的普遍直觉。三层叠起来的判断是: 「看起来可信」与「确实可信」之间的差距,恰恰随 AI 进步在扩大—— 生成越像真的,核查越省不得。图像侧的旁证:五个脚趾头、多出来的手臂 那种一眼假的年代过去了,如今 AI 图「大多像真照片一样真」15。

5. 边界与局限​

  • 「AI 图一眼真」是 2025 年的快照。 书里自己承认质量在飞涨; 「AI 生成的图比真的还真」这类说法要带时间戳引用。
  • 「最老版本模型错误多」是取巧的毒招。 它依赖平台仍保留旧版可选; 平台一统一版本,这招失效。
  • 本书对「何时不用」的答案偏保守。 它的建议边界是教育场景; 高风险领域(医疗、法律)书里引用的案例(Tessa 机器人、假判例)说明 同样的判据只会更严格。
  • 结论章几乎全是主张,没有新证据。 第 19 章是价值观收束(人在环——即关键决策永远由人拍板——、透明、收手),不是论证——引用它时要当「作者的立场」而非「研究结论」。

6. 可带走的​

  1. 换算成总账再决定: 「AI 干 + 你核实」贵过「直接自己干」时,答案就是自己干。
  2. 警惕「完美叙事」型幻觉: 细节全真、结论虚构、还带励志弧光——最难识破的一种。
  3. 事实性名词(州岩石、判例、数据)是重灾区: AI 分得清文体,分不清官方命名。
  4. 版权靠规则不靠感觉: 迭代越多越觉得是自己的,但法律只认人的创造性加工。
  5. 图像别再零样本: 贵 30 倍还时对时错;先想清楚是不是非要 AI 画。
  6. 收手是技能: 「fold 'em」不是失败,是 fluency 五条里「知何时不该用」的合格线。
  7. 让人留在环里: 最后一道工序永远是人签收;AI 的判断不背书。

7. 原文地图​

主题原书章原文位置
温和外表下的凶悍11. Rockhoundtext/16-ch11-11-rockhound.txt:6(搜「formidable beast」)
州岩石事故11. Rockhoundtext/16-ch11-11-rockhound.txt:75(搜「state's official rock」) · text/16-ch11-11-rockhound.txt:77(搜「official mineral」) · text/16-ch11-11-rockhound.txt:78(搜「hallucinated heap」)
银是金属、砂岩是岩石11. Rockhoundtext/16-ch11-11-rockhound.txt:117(搜「official state metal」)
编辑任务全流程11. Rockhoundtext/16-ch11-11-rockhound.txt:96(搜「every fact on every page」)
教师选最老版本11. Rockhoundtext/16-ch11-11-rockhound.txt:125(搜「oldest one」)
Copilot 假页声明11. Rockhoundtext/16-ch11-11-rockhound.txt:114(搜「did not alter a single word」)
假页中的编造立法剧情11. Rockhoundtext/16-ch11-11-rockhound.txt:161(搜「fourth graders」)
康斯托克矿脉(真成分)11. Rockhoundtext/16-ch11-11-rockhound.txt:149(搜「Comstock Lode」)
对的工具未必是 GenAI11. Rockhoundtext/16-ch11-11-rockhound.txt:181(搜「may not be a GenAI tool」)
文本降级器与语法编辑11. Rockhoundtext/16-ch11-11-rockhound.txt:182(搜「grammar editor」)
真狗照混 AI 照11. Rockhoundtext/16-ch11-11-rockhound.txt:24(搜「my dog」)
Hwang 版权直觉研究11. Rockhoundtext/16-ch11-11-rockhound.txt:36(搜「26 South Korean」) · text/16-ch11-11-rockhound.txt:38(搜「more prompts and iterations」) · text/16-ch11-11-rockhound.txt:40(搜「directly opposed」)
版权局「仅提供提示词不算」11. Rockhoundtext/16-ch11-11-rockhound.txt:31(搜「mere provision of prompts」)
弃牌判据11. Rockhoundtext/16-ch11-11-rockhound.txt:189(搜「folding」)
全班辩论「还值不值」11. Rockhoundtext/16-ch11-11-rockhound.txt:179(搜「Is it always」)
骗人地简单、耗时惊人11. Rockhoundtext/16-ch11-11-rockhound.txt:193(搜「deceptively simple」)
图像已真假难辨11. Rockhoundtext/16-ch11-11-rockhound.txt:12(搜「as real as, well, real pictures」)
「最差版本」属实19. Conclusiontext/22-fm-section-4-revealing-biases-and-stereotyping.txt:528(搜「It's true」)
西语广告轶事19. Conclusiontext/22-fm-section-4-revealing-biases-and-stereotyping.txt:535(搜「ads in Spanish」)
人在环上的最高信条19. Conclusiontext/22-fm-section-4-revealing-biases-and-stereotyping.txt:538(搜「human being in the loop」)
全书落点19. Conclusiontext/22-fm-section-4-revealing-biases-and-stereotyping.txt:522(搜「make the future」) · text/22-fm-section-4-revealing-biases-and-stereotyping.txt:563(搜「persistence pays off」)

Footnotes​

  1. 出处:「11. Rockhound」第 6 段(text/16-ch11-11-rockhound.txt:6,搜「formidable beast」)。原话:这个游戏外表温和,皮下藏着一头逼学生重估 AI 依赖的猛兽。 ↩

  2. 出处:「11. Rockhound」第 75 段(text/16-ch11-11-rockhound.txt:75,搜「state's official rock」)。混成矿物/宝石/金属的叙述在第 76–77 段(搜「official mineral」);「扔掉整堆幻觉、改查官网」在第 78 段(搜「hallucinated heap」);「令人沮丧的几小时」也在该段。 ↩ ↩2

  3. 出处:「11. Rockhound」第 96 段(text/16-ch11-11-rockhound.txt:96,搜「every fact on every page」)。任务:查每一页的每个事实、记日志、核实来源、重写幻觉页并配真实插图(第 96–112 段)。 ↩

  4. 出处:「11. Rockhound」第 125 段(text/16-ch11-11-rockhound.txt:125,搜「oldest one」)。教师端:让 GenAI 写页目并分发,故意混入矿物宝石金属的「tall tales」;可选版本时选最老的,保证拿到 whoppers。 ↩

  5. 出处:「11. Rockhound」第 114 段(text/16-ch11-11-rockhound.txt:114,搜「did not alter a single word」)。Copilot 免费版生成;「有趣、有真实事实,但根本不是州岩石的故事」在第 115 段(搜「not a story about」)。 ↩

  6. 出处:「11. Rockhound」第 181 段(text/16-ch11-11-rockhound.txt:181,搜「may not be a GenAI tool」)。「仍是合格的文本降级工具与语法编辑」在第 182 段(搜「grammar editor」)。 ↩

  7. 出处:「11. Rockhound」第 60 段(text/16-ch11-11-rockhound.txt:60,搜「zero-shot prompting」)。零样本时好时坏在第 63–65 段;搜 CC/公有领域图库更快更可靠在第 66–67 段(搜「quicker and more trustworthy」)。 ↩

  8. 出处:「11. Rockhound」第 179 段(text/16-ch11-11-rockhound.txt:179,搜「Is it always」)。全班 debriefing 的辩题:算上核实文本与图像的时间,依赖 GenAI 是否总值得。 ↩

  9. 出处:「11. Rockhound」第 24 段(text/16-ch11-11-rockhound.txt:24,搜「my dog」)。作者把自家狗的真照与同品种 AI 照混合,学生总有误判(第 25 段,搜「phonies」)。 ↩

  10. 出处:「11. Rockhound」第 31 段(text/16-ch11-11-rockhound.txt:31,搜「mere provision of prompts」)。美国版权局 2025:人对输出做出足够的表达性安排或修改方可拥有版权,「仅仅提供提示词」不算。 ↩

  11. 出处:「11. Rockhound」第 36 段(text/16-ch11-11-rockhound.txt:36,搜「26 South Korean」)。26 名韩国加 4 名越南大学生;「提示与迭代越多越觉得拥有版权」在第 38 段(搜「more prompts and iterations」);「与版权局立场直接相反」在第 40 段(搜「directly opposed」)。 ↩

  12. 出处:「11. Rockhound」第 189 段(text/16-ch11-11-rockhound.txt:189,搜「folding」)。肯尼·罗杰斯《The Gambler》的隐喻:对 AI 生成的内容与插图「弃牌」可能才是最好的赌。 ↩

  13. 出处:「19. Conclusion」第 535 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:535,搜「ads in Spanish」)。嵌入各处的 GenAI 按名字推断人群、投放西语广告;「人在环上」是作者的最高信条(第 538 段,搜「human being in the loop」)。 ↩

  14. 出处:「19. Conclusion」第 522 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:522,搜「make the future」)。「今天的学生将造就未来;教育者能帮助塑造那个未来」;全书最后一句在第 563 段(搜「persistence pays off」)。 ↩

  15. 出处:「11. Rockhound」第 12 段(text/16-ch11-11-rockhound.txt:12,搜「as real as, well, real pictures」)。五条腿与多头动物的年代「大体过去了」(第 10 段,搜「five-legged」)。 ↩