跳到主要内容

好、坏、丑 — 一张使用边界清单

这一章讲三件事: GenAI 在教育里真省时间的地方(以及省下的时间去哪了); 三个反直觉的坏消息(人机组队可能更差、抄袭查不出来、AI 产物没有版权); 最后把「合乎伦理地用」压缩成一条自查口诀和四条「绝不」。 第 03 章讲「它为什么会错」,这一章讲「错了之后落到谁头上」。

1. 这一章讲什么​

「能不能让学生用 ChatGPT」是个错误的问题——它把一个连续谱压成了一个开关。 作者借了一部西部片的名字当骨架:GenAI 有 the good、the bad、the ugly (好的、坏的、丑的)1。这一章的产出是一张边界清单:每一栏给证据、给数字、 给边界,最后汇成你合上文档就能用的判据。它对应第 01 章五条能力里的后三条: 伦理使用、数据安全、评估人际影响。

2. 顶层全景:三栏一张表​

  GOOD 省时供点子        BAD 系统性风险           UGLY 人祸与规则真空
  ─────────────         ─────────────            ─────────────
  头脑风暴(5% 真有用)   幻觉(第 03 章)          双重剽窃无检测器
  资料摘要、语法润色     偏见回流                  AI 产物无版权
  出题、改作业的助手     人机组队可能更差          深伪与立法追赶
  分层改写阅读材料       同质化:磨掉个人文风      隐私(FERPA)
  90 分钟速成课可行      图像默认白人男性          2030 年 40% 岗位替代
                                                  训练与用电的能耗

  图说:三栏不是「三类工具」,是同一个工具在三种用法下的三副面孔。

3. 核心原理​

3.1 GOOD:它真省时间的账,和一笔暗账​

先说最能兑现的。Cardon 等人调查了 343 位商科写作课教师,过半认为 GenAI 在头脑风暴上有用2。生成课程材料、出活动、出作业题,也是高频受益区; 对新手教师尤其友好——书里提到让 ChatGPT 出「怎么教统计」的点子, 它一口气给了游戏化、讲故事、探究式、自定进度好几路,作者自嘲 「它和我的想法差不多,这既迷人又吓人」3。

但有一笔暗账必须算:省下的时间会被核实吃回去。 让 AI 总结文献,几秒出稿; 可版权与伦理不允许喂闭源(不公开、不能自由复用)文献,而且你得反复「戳」它把重点对到你关心的地方—— 作者的原话是:有时候自己读、自己标注反而更快4。

还有一条教师侧的红线。让 AI 当助教预改作业很诱人,但把学生论文喂给聊天机器人, 等于未经同意把学生的原创作品交给了别人家服务器(替你跑 AI 的那台远程计算机)。作者的做法值得抄: 她从不喂学生论文,而是维护一份自己多年来积累的「高频评语」文件夹, 让 AI 帮忙把这些现成条目润色得个人化——既省力,又不碰学生隐私5。

3.2 BAD:两个反直觉的研究结论​

结论一:人机组队,不一定比单干强。 Vaccaro 等人汇总了 106 项研究, 发现人和 AI 各自单干的成绩,常常好过两者合作;而且有个扎手的细节: 当 AI 比人强的时候,组合反而带来损失——人拖了后腿;只有人本来就更强的任务, 合作才带来增益6。MIT Sloan 的另一项研究给出对立面:真正的伙伴关系 (人出创意与鉴赏,AI 出执行力)可以超过两部分之和7。 两张结论并排放,读出来的不是「谁对」,而是合作有没有增益取决于分工方式: 把「判断」交给人、把「重复劳动」交给 AI,才有正和。

结论二:它磨平文风。 书里引的担忧是 GenAI 会「抢走人的独特声音」, 把输出同质化8。对写作课这是致命伤:学生交上来的句子越来越像, 不是他们变像了,是他们的草稿经过了同一台机器。

图像侧的坏消息更直观(细节留给第 12 章,这里只立个锚): 作者让 DALL-E 给自己的演示文稿配图,只要不指定种族性别,出的一律是年轻、 好看的白人男性;指定了也常常要磨好几轮才接近要求,有时根本要不来9。 多模态(能同时处理文字、图像、音频等多种输入形态的模型)继承的是 同一套带偏见的训练材料——这在第 03 章讲过机制,此处是它在图像上的样子。

3.3 UGLY:主走查——「双重剽窃」是怎么完成的​

「丑」这一栏,书里最锋利的是 Cheng 等人命名的 double plagiarism (双重剽窃)10。走一遍它的完整链条(具体文题与段落为演示而编):

  第 1 步  某期刊 2021 年登过一篇《城市热岛效应的屋顶绿化缓解路径》
           (演示用虚构文题),受版权保护。
  第 2 步  模型在训练时「读」过全文——参数里存着它的内容痕迹。
  第 3 步  学生提示:「写一段关于屋顶绿化缓解热岛效应的文献综述」。
  第 4 步  模型吐出 300 字,观点、结构、甚至转折句式都贴着原文,
           但连一条引注都没有——它不标注出处。
  第 5 步  学生通读一遍(或没读),复制粘贴进自己的论文。
  第 6 步  教师查重:对着期刊库比对,命中;找学生核对,学生一脸茫然。
           ——AI 抄了一次,学生又抄了一次;谁都没引用。双罪并罚。

这条链的恐怖之处在第 4 步:模型天生不引用。抄袭的判定依赖「出处」, 而它给的一切都没有出处;学生再一粘贴,传统查重就成了唯一的防线—— 而防线前面没有海关。书里同段给出的背景是:可靠的 AI 文本检测工具并不存在, 学生又常常「太赶、太信,交之前连读都不读」11。

紧挨着的是版权悬案。美国版权局第 1060 号文件(2025)裁定: 直接从 GenAI 出来的内容不享有版权;只有当人对其做了加工, 才可能获得版权保护——而文件没说加工到什么程度才算12。 这条规则直接改写了「我让 AI 画的图归我吗」的答案:归不了。 (第 11 章会补一个更拧巴的发现:学生对这个问题的直觉,和版权局正好相反。)

UGLY 清单剩下的几项,各给一个硬锚:

事项书里的锚
深伪(deepfake,合成或篡改的、以假乱真的图像/音频/视频)欧盟 2024 年 3 月通过《AI 法案》,给出了法律定义;学者担忧其与隐私、表达自由的冲突13
学生隐私把含个人信息的内容喂给 AI,可能构成美国教育隐私法 FERPA 的违规14
岗位世界经济论坛调查 1000+ 雇主:到 2030 年,40% 的企业计划在 AI 能胜任之处替换工人15
能耗训练一个大模型耗电巨大、碳足迹可观;日常使用的耗能还在指数(翻倍式)上涨16

4. 作者的判断与证据​

书里这一章的证据密度很高,但有个统一口径值得点破: 「好」栏多为调查与个案(343 位教师、90 分钟课程), 「丑」栏多为法规与综述(1060 号文件、欧盟法案、106 项研究的元分析)。 也就是说,作者给「丑」配的是最硬的证据等级——这不是偶然: 在「能不能用」的问题上,她选择把举证责任压在风险一侧。

作者的立场声明也放在这一章,而且相当刚:她拒用 GenAI 写作、拒用它查语法—— 理由是自己在 GenAI 出现前就出版著作、教写作课多年, 觉得 AI 的文字「重复、毛病多、改起来不值当」17。 这是个人选择而非普遍建议,但它演示了 fluency 的一种样子: 对某项用途有资格说「不」,也是能力。

5. 边界与局限​

  • 「最差版本」条款。 本章所有坏消息都盖着一个时间戳:我们此刻打交道的, 是我们此生会用到的最差的 GenAI18。检测工具、偏见程度、能耗效率都会变; 但结构性的部分(模型不引用、纯输出无版权)在可预见期内不会变。
  • 作者的二分法是教学工具,不是学术分类。 good/bad/ugly 三个筐之间有重叠 (省时是 good,省下的时间诱发不核实就滑向 ugly),用的时候别当边界严格的分类学。
  • 法域差异。 1060 号文件是美国规则;欧盟 AI 法案管 deepfake;FERPA 是美国法。 换个司法辖区,结论要重新对表。
  • 伦理落点是一条口诀。 作者把「合乎伦理地用」压缩成 Kenny Rogers 的 《The Gambler》:知道手里是什么牌,更知道什么时候必须收手19; 外加最重要的演出规则——你用了 AI、在哪用、为什么用,要完全透明, 并且教会学生同样透明20。
  • 最后是她给学生的四条「绝不」(Nevers),原文在书里后面才展开, 但属于本章清单的收口:不共享任何可识别个人身份的信息;不上传嵌有这类信息的东西; 不上传原创作品(尤其免费版工具,你的内容会变成它的一部分); 不上传版权材料或学术知识产权21。

6. 可带走的​

  1. 把开关问题换成程度问题: 每项任务单独问「AI 帮到哪一步」,而不是「能不能用 AI」。
  2. 算时间的总账: 生成省下的分钟,核实要还回去;自己读有时更快。
  3. 协作增益取决于分工: 判断归人、重复劳动归 AI 才有正和;AI 强人弱的组合反而减分。
  4. 假设学生交来的文字没有出处: 模型天生不引用;检测工具不可依赖,设计作业时就别依赖它。
  5. AI 产物无版权(美国现行规则): 想拥有它,加工它;加工多少才够,法规尚未定义。
  6. 四条「绝不」: PII、嵌 PII 的文件、原创作品、版权材料,一律不进 AI。
  7. 透明是底线动作: 用了就说,说清楚在哪用、为什么用。

7. 原文地图​

主题原书章原文位置
good/bad/ugly 骨架2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:152(搜「the good, the bad, and the ugly」) · text/07-ch02-2-generative-ai-and-ai-fluency.txt:310(搜「The Gambler」)
343 位教师过半认可头脑风暴2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:160(搜「343 business communication faculty」)
教统计的点子轶事2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:180(搜「novice educator」)
核实吃掉省时2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:168(搜「iterative process of prodding」)
不喂学生论文2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:192(搜「feed student papers」)
受训者生产力增益2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:204(搜「productivity benefits」)
106 项研究元分析2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:238(搜「megaanalysis of 106」)
AI 强时组合受损2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:241(搜「when AI outperformed humans」)
MIT Sloan 伙伴关系2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:247(搜「artistic inspiration」)
同质化磨平文风2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:370(搜「unique voice」)
DALL-E 默认白人男性2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:296(搜「young, attractive white men」)
双重剽窃2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:341(搜「double plagiarism」)
无可靠检测工具2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:338(搜「no reliable」)
版权局 1060 号2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:348(搜「number 1060」) · text/07-ch02-2-generative-ai-and-ai-fluency.txt:349(搜「is not copyrighted」)
欧盟 AI 法案与深伪定义2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:358(搜「passed the AI Act」)
FERPA 风险2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:373(搜「Family Educational」)
2030 年 40% 岗位替代2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:377(搜「replace workers」)
训练能耗与碳足迹2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:383(搜「enormous amount of energy」)
透明使用的要求2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:314(搜「totally transparent」)
作者拒用写作2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:324(搜「I refuse to use」)
「最差版本」2. Generative AI and AI Fluencytext/07-ch02-2-generative-ai-and-ai-fluency.txt:250(搜「worst version」)
四条 Nevers3. Merging Generative AI into Gamificationtext/08-ch03-3-merging-generative-ai-into-gamification.txt:294(搜「Never share any personally」)

Footnotes​

  1. 出处:「2. Generative AI and AI Fluency」第 152 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:152,搜「the good, the bad, and the ugly」)。作者向克林特·伊斯特伍德的电影致谢;「伦理与负责任使用」的展开在第 305–329 段。 ↩

  2. 出处:「2. Generative AI and AI Fluency」第 160 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:160,搜「343 business communication faculty」)。 ↩

  3. 出处:「2. Generative AI and AI Fluency」第 180 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:180,搜「novice educator」)。「迷人又吓人」在第 181–182 段(搜「fascinating and scary」)。 ↩

  4. 出处:「2. Generative AI and AI Fluency」第 168 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:168,搜「iterative process of prodding」)。原文承认「有时候自己读、老式地标注反而更快更容易」。 ↩

  5. 出处:「2. Generative AI and AI Fluency」第 192 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:192,搜「feed student papers」)。「reoccurring comments」文件夹的做法在第 193–197 段(搜「reoccurring」)。 ↩

  6. 出处:「2. Generative AI and AI Fluency」第 238 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:238,搜「megaanalysis of 106」);结论引文在第 240–241 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:241,搜「when AI outperformed humans」)。 ↩

  7. 出处:「2. Generative AI and AI Fluency」第 247 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:247,搜「artistic inspiration」)。人的优势是灵感、独创与鉴赏,AI 的优势是重复劳动与程序性执行。 ↩

  8. 出处:「2. Generative AI and AI Fluency」第 370 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:370,搜「unique voice」)。 ↩

  9. 出处:「2. Generative AI and AI Fluency」第 296 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:296,搜「young, attractive white men」)。指定人口学特征仍需多轮的叙述在第 297–300 段。 ↩

  10. 出处:「2. Generative AI and AI Fluency」第 341 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:341,搜「double plagiarism」)。Cheng et al. 2025 的定义与链条:「GenAI 抄袭它训练所用的版权文章,学生不知不觉或无所谓地复制粘贴交给教师;AI 不引文章,学生既不引文章也不引 AI」。 ↩

  11. 出处:「2. Generative AI and AI Fluency」第 338 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:338,搜「no reliable」)。 ↩

  12. 出处:「2. Generative AI and AI Fluency」第 348 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:348,搜「number 1060」)与第 349 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:349,搜「is not copyrighted」)。加工量未定的说明在第 350–351 段(搜「amount of manipulation」)。 ↩

  13. 出处:「2. Generative AI and AI Fluency」第 358 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:358,搜「passed the AI Act」)。deepfake 定义引文在同段后半(Romero Moreno 2024,p. 298);对法案与隐私、表达自由冲突的担忧在第 362–367 段。 ↩

  14. 出处:「2. Generative AI and AI Fluency」第 373 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:373,搜「Family Educational」)。FERPA 指美国《家庭教育权利与隐私法》,管学生教育记录的隐私。 ↩

  15. 出处:「2. Generative AI and AI Fluency」第 377 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:377,搜「replace workers」)。调查对象为 1000+ 雇主(第 375–376 段)。 ↩

  16. 出处:「2. Generative AI and AI Fluency」第 383 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:383,搜「enormous amount of energy」)。具体数字在原书第 6 章,本书第 10 章的拆解收录了这组数。 ↩

  17. 出处:「2. Generative AI and AI Fluency」第 324 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:324,搜「I refuse to use」);「重复、毛病多、不值当改」在第 327–329 段(搜「repetitious」)。 ↩

  18. 出处:「2. Generative AI and AI Fluency」第 250 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:250,搜「worst version」)。 ↩

  19. 出处:「2. Generative AI and AI Fluency」第 310 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:310,搜「The Gambler」)。肯尼·罗杰斯的《The Gambler》(书内原注即标 1978 年):赌徒的核心本领是「知道什么时候持牌、什么时候收手」。 ↩

  20. 出处:「2. Generative AI and AI Fluency」第 314 段(text/07-ch02-2-generative-ai-and-ai-fluency.txt:314,搜「totally transparent」)。 ↩

  21. 出处:「3. Merging Generative AI into Gamification」第 294 段(text/08-ch03-3-merging-generative-ai-into-gamification.txt:294,搜「Never share any personally」)。四条完整清单在第 294–299 段。 ↩