跳到主要内容

反击虚假信息 — 从社交媒体战到实验室审计

这一章讲三件事: 一条谣言从出现到被压下去,中间每一步的真实工序; 「反击」的两大技术——三明治结构与 A/B 测试(两个版本各投一部分受众,用数据比胜负); 以及同一套功夫在科研场景的升级版:怎么审一份被 AI 污染的实验数据。 教师在本章的角色全面反转:你不是裁判,你是进攻方。

1. 这一章讲什么​

第 03 章教会了「怀疑」:横向阅读、核实一切。但光会怀疑打不赢舆论战—— 真实世界里的虚假信息是成建制的:刷屏的机器人、假冒官方的 meme、 篡改的图表、深伪视频。原书用两个游戏把「怀疑」升级成「反击」: 第 6 章的飓风社交媒体战(传播场景),第 13 章的 AXE-42 药物数据审计 (科研场景)。两者的公共底座是同一件道具:来源核实日志。

2. 顶层全景:一条谣言的完整处理链​

  谣言出现(教师投放)
      ▼
  归档:从信息流里揪出来,按逻辑谬误分类记录
      ▼
  核实:为每个 myth 找权威来源,逐条记进来源核实日志
      ▼
  反击:三明治结构(事实—谬误—事实)+ do-today 行动清单
      ▼
  选弹:A/B 测试比话术,四维评分挑出最有说服力的版本
      ▼
  复盘:PAIR 四步 + Gibbs 六环,写进行动计划
      ▼
  (科研场景)同一套功夫换成六步审计:数据→报告→图

  图说:左半是传播场景,右下是科研场景;夹在中间的核实日志两边通用。

3. 核心原理​

3.1 归档与核实:反击的弹药从哪来​

飓风游戏里,学生扮演非营利组织 Save Our Planet! 的志愿传播团队,赶在 四级飓风 Charybdis 登陆前 75 小时开工1。第一个活动的任务不是写作, 是归档:把信息流里的每条虚假信息揪出来,按逻辑谬误类型登记进表格2; 然后为每个谣言找权威来源(NOAA、NASA、同行评审论文),写成 6–8 张 辟谣闪卡——正面是谣言,反面是约 150 字的反驳,且每张卡必须带一条 面向该受众的可靠来源链接;成人版和儿童版各做一套3。

这一关的规则细节里藏着整章的伦理骨架:GenAI 的使用是可选的,但无论用不用, 来源核实日志必须交;让 AI 整理文献引用可以,但每一条都要手动点开验证, AI 给的东西哪怕看起来再可信也不自动采信,幻觉的部分一律弃用4。 「核实日志」在此正式登场:来源核实日志(把用过的每个来源、在哪页哪段 支持了哪个说法、验证结果如何,逐行登记的流水账)是本书所有游戏通用的 基础设施,后面两个游戏还会见到它。

3.2 反击的两门技术:三明治与 A/B 测试​

三明治是写反驳的固定结构:真相—谬误—真相(truth sandwich): 先用事实铺垫,中间夹带要驳的谣言,再落回事实与一个「今天就能做」的行动5。 它解决的问题很具体:直接复述谣言标题等于帮谣言传 second hand; 三明治结构保证谣言永远被包在事实中间出场。

A/B 测试(两个版本各投一部分受众,用数据比胜负)负责选出最有效的话术6。 书里的走查带全套数字:队伍先各写四条风险导向和四条行动导向的 hook (开头钩子,要求正面、不贩卖恐慌);建两块看板,各挂一个投票; 配上对每条反驳的 0–2 分四维评分(语气、清晰度、文明度、证据); 然后把两个版本分发给至少两个其他队伍交叉测试——最后拿票数最高的 hook 做头条,把得分最高的反驳置顶7。一条宣传语该不该用,从此不靠队长拍脑袋。

3.3 教师是进攻方:投放清单​

这一章最打破常规的设定:教师全程扮演敌军。书里给教师写了四批(四组)中盘投放物料, 每一批对应一种真实攻击面(条目原文照录)8:

  · 假 Instagram 轮播:5–6 张真实历史上的弱飓风图,配文「根本没有趋势,
    是媒体在贩卖恐慌」
  · 假冒 NOAA 首席科学家的 meme:「飓风没变强,只是变吵了」
  · bot 刷屏:15 条几乎一模一样的评论,坚称洪水地图永远不准
  · 市长的深伪音视频:喊大家别撤离(带昨天的时间戳)
  · 假募捐:盗用 Save Our Planet! 的名义骗疏散捐款
  · #StayHomeChallenge 标签:号召大家留下抗飓风涨粉

配合这套进攻,书里要求教前先教四样东西:PAIR 框架、Gibbs 循环、 逻辑谬误、以及If/Then 提示——书里给的模板值得整句抄: 「提供带 DOI 的同行评审来源。如果某个说法没有同行评审来源, 则陈述 No Source 并停止」9。让 AI 自己交白卷,比替它圆场高明。

3.4 科研版升级:AXE-42 六步审计​

同一套「怀疑→核实」的功夫,进了实验室长什么样?第 13 章的背景板: 一家顶级实验室的明星药物 AXE-42 被怀疑数据造假;学生扮调查小组, 材料是数据集、报告和图各一份10。六步走查(步骤原文顺序):

  1 审数据集:找异常值、重复值、缺失值、可疑的相似数值
  2 审报告:抓「完美得可疑」的统计;对照数据集查一致性
  3 审图:找视觉操纵(隐藏的重叠、重复的值、不规则)
  4 重写:修正报告与图,记录每一处改动和理由
  5 互审:与另一组交换,评对方的修正是否对症、是否守住科研诚信
  6 汇报:3–4 分钟,回答四问——原结果有效/有瑕/伪造?
     有无伦理违规?修正后支持还是削弱药物?下一步复制、撤稿还是辩护?

11 这套审计的每个动作都有现实所指:书里开章就点明 GenAI 内容 无法复制(科研的基石),假证据已经进了正经期刊——各刊因此开始 强制要求披露 AI 生成的内容与图像12。教师端的配套:用 GenAI 给每组 各自造一套被篡改的数据、报告和图,难度随课程层级加码13。

书里还给传播战配了一个中间态武器:谣言升级树(一张可视化图, 追踪一条未经证实的小道消息如何一步步滚成病毒式大帖),让 AI 根据互相 矛盾的谣言生成树的骨架,答案由人写14。它的价值在防御侧: 看见升级路径,才知道该在哪一层截断。

4. 作者的判断与证据​

这一章的实证锚点相当硬,值得单列:带证据链接的 AI 干预,真能软化否认者。 Zhong 等人在 Reddit 上做实验:由人工标注、透明标识的 AI 账号发布气候议题 干预帖,结果——帖子带上可信的、基于证据的科学链接时,否认者更可能正面回应; 不带链接的干预,反而强化了阴谋论;更妙的是,旁观的气候支持者还会 主动补充论据,形成二次扩散15。这条证据给「三明治+来源链接」的反击结构 提供了直接背书:链接不是装饰,是让对话降温和转向的关键零件。

作者还在本章交付了一个坦率的预期管理:随着学生识别虚假信息的能力上升, 他们对 AI 输出的信任会同步下降——她引 Cail 的研究把这当作教学成功的 标志,而不是副作用16。

5. 边界与局限​

  • 教师工作量全书峰值。 两个游戏都需要教师预造大量物料(假数据、假新闻、 深伪素材),且投放时机要用看板的定时功能提前排程;引用者要按课时裁剪, 书里自己建议一周一课时的班只保留三四关。
  • 平台依赖。 看板、投票、假轮播都假设学生在同一平台互动; 书里给了降级方案(用学习管理系统的讨论区)。
  • 深伪素材的制作有法域与伦理约束。 教师造「市长深伪」前, 需要确认本校对本校人员的肖像模拟政策——书里没有讨论这层, 是它的一个真空。
  • A/B 测试的样本量很小。 一个班分几组互测,统计意义有限; 它练的是方法意识,不是得出可推广的结论。

6. 可带走的​

  1. 先归档再还嘴: 把谣言按逻辑谬误分类登记,反击从分类开始。
  2. 三明治结构: 事实—谬误—事实,让谣言永远夹在事实中间出场。
  3. 核实日志是基础设施: 用不用 AI 都必须交;AI 给的来源每条手动验证。
  4. 话术靠 A/B 不靠拍脑袋: 4+4 条 hook、四维 0–2 评分、至少两队交叉。
  5. If/Then 让 AI 学会交白卷: 「没有同行评审来源就写 No Source 并停止」。
  6. 审「完美」: 太漂亮的统计、太干净的图,先当嫌疑犯。
  7. 链接是降温零件: 带可信证据链接的干预才软化对方,空口反驳适得其反。

7. 原文地图​

主题原书章原文位置
飓风倒计时开局6. Environmental Disastertext/11-ch06-6-environmental-disaster.txt:151(搜「Hurricane Charybdis」)
按逻辑谬误归档6. Environmental Disastertext/11-ch06-6-environmental-disaster.txt:194(搜「logical fallacy」)
150 词反驳卡6. Environmental Disastertext/11-ch06-6-environmental-disaster.txt:199(搜「approximately 150」)
核实日志必须交6. Environmental Disastertext/11-ch06-6-environmental-disaster.txt:221(搜「source verification log」)
幻觉部分一律弃用6. Environmental Disastertext/11-ch06-6-environmental-disaster.txt:226(搜「do not use it」)
三明治结构6. Environmental Disastertext/11-ch06-6-environmental-disaster.txt:256(搜「truth sandwich」)
4+4 hook 与 0–2 评分6. Environmental Disastertext/11-ch06-6-environmental-disaster.txt:331(搜「risk-forward」) · text/11-ch06-6-environmental-disaster.txt:338(搜「rating polls」)
A/B 测试与两队交叉6. Environmental Disastertext/11-ch06-6-environmental-disaster.txt:340(搜「A/B testing」)
假轮播与假 meme 投放6. Environmental Disastertext/11-ch06-6-environmental-disaster.txt:246(搜「Media fearmongering」)
bot 刷屏与市长深伪6. Environmental Disastertext/11-ch06-6-environmental-disaster.txt:356(搜「15 nearly identical」) · text/11-ch06-6-environmental-disaster.txt:359(搜「deepfake audio」)
谣言升级树6. Environmental Disastertext/11-ch06-6-environmental-disaster.txt:392(搜「rumor escalation tree」)
If/Then 提示模板6. Environmental Disastertext/11-ch06-6-environmental-disaster.txt:451(搜「If/Then prompting」)
训练能耗数字6. Environmental Disastertext/11-ch06-6-environmental-disaster.txt:99(搜「1287 megawatt hours」) · text/11-ch06-6-environmental-disaster.txt:109(搜「626,000 pounds」)
Reddit 干预实验6. Environmental Disastertext/11-ch06-6-environmental-disaster.txt:135(搜「intervention messages」) · text/11-ch06-6-environmental-disaster.txt:137(搜「included hyperlinks」)
复制性危机13. GenAI's Scandalous Researchtext/18-ch13-13-genai-s-scandalous-research.txt:5(搜「impossibility of replication」)
假证据已进期刊13. GenAI's Scandalous Researchtext/18-ch13-13-genai-s-scandalous-research.txt:62(搜「unfortunately, it has」)
期刊要求披露13. GenAI's Scandalous Researchtext/18-ch13-13-genai-s-scandalous-research.txt:63(搜「full disclosure」)
缝纫类比13. GenAI's Scandalous Researchtext/18-ch13-13-genai-s-scandalous-research.txt:20(搜「sew their own clothes」)
AXE-42 案情13. GenAI's Scandalous Researchtext/18-ch13-13-genai-s-scandalous-research.txt:96(搜「AXE-42」)
六步之审数据13. GenAI's Scandalous Researchtext/18-ch13-13-genai-s-scandalous-research.txt:112(搜「suspiciously similar」)
六步之审「完美」统计13. GenAI's Scandalous Researchtext/18-ch13-13-genai-s-scandalous-research.txt:114(搜「too perfect」)
六步之四问汇报13. GenAI's Scandalous Researchtext/18-ch13-13-genai-s-scandalous-research.txt:132(搜「valid, flawed, or falsified」)
每组一套假数据13. GenAI's Scandalous Researchtext/18-ch13-13-genai-s-scandalous-research.txt:147(搜「a different set of data」)
识别力升、信任降13. GenAI's Scandalous Researchtext/18-ch13-13-genai-s-scandalous-research.txt:167(搜「trust in outputs dwindled」)

Footnotes​

  1. 出处:「6. Environmental Disaster」第 151 段(text/11-ch06-6-environmental-disaster.txt:151,搜「Hurricane Charybdis」)。开局:手机警报,四级飓风,60–75 小时后登陆;「75 小时」的标题在第 146 段(搜「Landfall Projection」)。 ↩

  2. 出处:「6. Environmental Disaster」第 194 段(text/11-ch06-6-environmental-disaster.txt:194,搜「logical fallacy」)。任务:从信息流揪出虚假信息,按谬误类型登记进文档或表格。 ↩

  3. 出处:「6. Environmental Disaster」第 198 段(text/11-ch06-6-environmental-disaster.txt:198,搜「myth-busting flashcards」)。卡片规格(6–8 张、150 词反驳、双受众两套、带来源链接)在第 198–206 段;「约 150 词」在第 199 段(搜「approximately 150」)。 ↩

  4. 出处:「6. Environmental Disaster」第 221 段(text/11-ch06-6-environmental-disaster.txt:221,搜「source verification log」)。不用 AI 也要交日志;手动验证每条来源与网址在第 223–224 段(搜「manually verify」);「幻觉部分一律弃用」在第 226 段(搜「do not use it」)。 ↩

  5. 出处:「6. Environmental Disaster」第 256 段(text/11-ch06-6-environmental-disaster.txt:256,搜「truth sandwich」)。三明治结构(fact—myth—fact)配一个 do today 行动。 ↩

  6. 出处:「6. Environmental Disaster」第 340 段(text/11-ch06-6-environmental-disaster.txt:340,搜「A/B testing」)。 ↩

  7. 出处:「6. Environmental Disaster」第 331 段(text/11-ch06-6-environmental-disaster.txt:331,搜「risk-forward」)。4+4 hook 与两块看板投票;0–2 四维评分在第 338 段(搜「rating polls」);至少两队交叉与「最高票 hook 头条化」在第 340–342 段。 ↩

  8. 出处:「6. Environmental Disaster」第 246 段(text/11-ch06-6-environmental-disaster.txt:246,搜「Media fearmongering」)。假轮播与假 meme 在 Box 6.2(第 244–248 段);bot 刷屏 15 条在第 356 段(搜「15 nearly identical」);市长深伪在第 359 段(搜「deepfake audio」);假募捐在第 424 段(搜「bogus donation」);#StayHomeChallenge 在第 419 段(搜「StayHomeChallenge」)。 ↩

  9. 出处:「6. Environmental Disaster」第 451 段(text/11-ch06-6-environmental-disaster.txt:451,搜「If/Then prompting」)。教前四样(PAIR、Gibbs、逻辑谬误、基础提示工程)在同一句;If/Then 全文模板在第 451–452 段。 ↩

  10. 出处:「13. GenAI's Scandalous Research」第 96 段(text/18-ch13-13-genai-s-scandalous-research.txt:96,搜「AXE-42」)。案情:明星研究员 Smith 的实验药疑云,材料为数据集、图、报告各一份(第 107 段,搜「dataset, graph, and lab report」)。 ↩

  11. 出处:「13. GenAI's Scandalous Research」第 111 段(text/18-ch13-13-genai-s-scandalous-research.txt:111,搜「audit the data」)。六步的原文分布:审数据在第 111–113 段(搜「suspiciously similar」);审报告第 114–117 段(搜「too perfect」);审图第 118 段(搜「visual manipulation」);重写第 119–123 段;互审第 124–128 段;四问汇报第 129–137 段(搜「valid, flawed, or falsified」)。 ↩

  12. 出处:「13. GenAI's Scandalous Research」第 62 段(text/18-ch13-13-genai-s-scandalous-research.txt:62,搜「unfortunately, it has」)。无法复制(第 5 段,搜「impossibility of replication」);期刊披露要求在第 63–64 段(搜「full disclosure」)。 ↩

  13. 出处:「13. GenAI's Scandalous Research」第 147 段(text/18-ch13-13-genai-s-scandalous-research.txt:147,搜「a different set of data」)。用 GenAI 给每组造一套被篡改的数据、报告、图与 AI 图像。 ↩

  14. 出处:「6. Environmental Disaster」第 392 段(text/11-ch06-6-environmental-disaster.txt:392,搜「rumor escalation tree」)。让 AI 输入互相矛盾的谣言生成升级树;Q&A 由人写、AI 只建议问题(第 407–408 段,搜「suggest questions」)。 ↩

  15. 出处:「6. Environmental Disaster」第 135 段(text/11-ch06-6-environmental-disaster.txt:135,搜「intervention messages」)。链接实验结论在第 136–139 段(搜「included hyperlinks」);旁观支持者补证据在第 140–141 段(搜「additional evidence」)。 ↩

  16. 出处:「13. GenAI's Scandalous Research」第 167 段(text/18-ch13-13-genai-s-scandalous-research.txt:167,搜「trust in outputs dwindled」)。Cail 2025 的观察:识别能力增长,信任同步缩水,学生转而依靠自己学的技能。 ↩