跳到主要内容

定制角色 — 病人、证人与「故意不定制」的理由

这一章讲三件事: 把一个聊天机器人调成「病人」的完整配方——连养的狗 都是症状留白的道具;证人的书面证词为什么要和口头证词对不上; 以及什么时候反过来——故意不做任何定制。 第 07 章管 AI 的「脾气」,这一章管它的「配置」:喂什么、瞒什么、禁什么。

1. 这一章讲什么​

第 07 章的三种 NPC 说的是交互节奏,这一章往下挖一层:同一个「让 AI 扮人」, 喂料与管束的深度可以差很远。原书用三个游戏给出一条光谱—— 严格剧本(护理诊断游戏的病人)、半开放(庭审游戏的证人)、 零定制(历史采访游戏)。三个游戏的共同点:学生最后都要为「人」的不可靠 付出注意力——而这份不可靠,正是 AI 输出不可靠的镜子。

2. 顶层全景:定制程度的三个档位​

  零定制(通用模型直接扮角色)      半开放(带证词库的证人)      严格剧本(病人)
  ─────────────────────────       ─────────────────────       ─────────────────
  学生见识 AI 的全部缺点:          有一份"官方事实底稿",      有完整人物卡:哪些
  偏见、错报、幻觉全暴露            但口头问答会漂移            主动说、哪些问才说、
  每句断言都要双来源核实            学生逐条对账、解释矛盾      哪些永远不说
  教师工作量最小                    中等                        最大(但可复制)

  图说:档位越高,教师对"错误"的控制越强;档位越低,学生见到的真实 AI 越多。

3. 核心原理​

3.1 严格剧本:一个连狗都不放过的病人配置​

护理诊断游戏里,学生扮 intake nurse(接诊护士,负责采集病史、初判病情), 对面是一个扮病人的聊天机器人;任务:问诊、给出初步诊断(帕金森病、 阿尔茨海默病或多发性硬化三选一)并说明推理1。

游戏的核心机关在一句话里:病人只回答被问到的内容2。 要让它成立,作者的配方分五层(书里在「How to feed your chatbot」一节全盘托出)3:

  第 1 层  人口学与环境信息:郊区生活、退休活动……连宠物都写明
           ——Bernese Mountain Dog(伯恩山犬),特意选这个品种,
           因为它性情温顺、精力低:后文"狗没扯她摔倒"的辩词就靠这一笔。
  第 2 层  症状分两份:病人会主动说的;以及她【没说出口】的——
           后者是学生问诊要挖的部分。问得靠近了,病人才"犹豫地"
           补充一句:最近容易累、不遛狗时也失衡、起身起步困难、
           静坐时右手轻微颤抖。
  第 3 层  完整症状清单与三种病的指征对照(机器人自己"知道"答案)。
  第 4 层  行为脚本:只答被直接问到的;要犹豫、要含糊、有时答非所问;
           认知类的敏感问题要等学生换个问法再问一次才答;
           【永远】不给出诊断名,连帕金森三个字都不许提。
  第 5 层  本作业的学习目标与评分量表也喂给它——让它知道自己
           在替谁、按什么标准教书。

这五层就是「症状留白」的全部机制:第 2 层保证留白可挖, 第 4 层保证挖的过程像真问诊(会犹豫、会绕弯、要复述),第 1 层保证 留白合乎人物逻辑——狗的品种不是闲笔,是「她没摔倒」这条证词的锚4。 作者还交代了质检流程:症状由 ChatGPT-5 起草,再由两位当护士的朋友逐例 核过真实性与合理性5。AI 起草、专家验收——这个工序本身就是第 03 章 「AI 产内容、人担责任」的教科书式落地。

3.2 半开放:证词矛盾当教材​

庭审游戏(Malvado 案)走中间档:六个证人全部由定制聊天机器人扮演, 检辩各三名的书面证词事后取证时记录在案,与他们在庭上口头说法 存在系统性出入——摄像头状态这边说 10:45 打卡时已经黑屏, 那边说 11:00 还看见红灯在闪;SUV 一口咬定黑色、一口咬定深蓝; 时间线整体漂移6。学生的工具是一张七列的Discrepancy Matrix (矛盾对账表):当前说法、冲突来源、可能的解释、核实步骤、物证检验、 结果、状态(支持/动摇/悬而未决),逐条把矛盾过一遍7。

设计的妙处在两条教师指令上:第一,证据必须支持多种合理解释—— 不许存在一锤定音的真相,因为教学目标是「区分自己『知道』的和能证明的」8; 第二,矛盾要分两堆处理:解释得通的写进一页纸的「案情理论」, 解释不通的隔离起来不用——书面证词、现场照片、当前口供三方对不上的 那条,再诱人也不能进论点9。这正是第 03 章「幻觉处理」的法庭版: 不是删掉假数据,是给真伪分级、隔离不可核实的部分。

书里还有两条严肃的护栏:证人聊天机器人被明令不回答「Malvado 有罪吗」 「你在撒谎吗」这类问题——守住「学生在评判」而不是「AI 在评判」的边界10; 至于裁决,作者用学生评教的血泪换来的建议是:请学科馆员当法官, 别自己当——输的一方会把怨气记在讲师头上11;还可以把双方材料 喂给奇数个不同的 AI 当陪审团投票,让「机器裁判的可靠性」本身 变成课后讨论题12。

3.3 零定制:故意不做的勇气​

历史采访游戏把光谱推到最左端:学生穿越回亚历山大大帝的远征军, 从三十来个职业人设(建筑师、马赛克匠、书记官、医生、被占领城市的女性……) 里挑一个采访。作者在这里做了一个反直觉决定:不做任何定制聊天机器人13。 理由写在书里:精心喂料、断开联网的定制机器人,恰恰剥夺了学生见识 GenAI 全部毛病的机会——偏见、错报、幻觉,一个都看不到14。 所以人设由 ChatGPT-5 现编,而且编出来的错误故意不改,留着当 事实核查的活靶子15;学生采访必须用 prompt chaining(第 06 章的 提示链:不重复初始提示,只追加聚焦),每条断言配两个来源—— 一本文献译本加一篇现代学术研究——证实,或证伪(即拿出证据推翻)——16。

这个设计还带出全书少有的一条社会观察:挪威某大学调查了 1313 名女生和 1067 名男生,发现女生在 16 个使用场景的 14 个里与 AI 互动显著更少, 更担心可信度与伦理问题;男生更想了解工具怎么用;而两组学生都反映 几乎没受过任何正规的使用训练17。零定制课堂把「通用 AI 的缺陷」 摆上台面,对本来就警惕 AI 的那群学生,反而是更诚实的呈现。

4. 作者的判断与证据​

三档配置背后的证据各有来历。支持「严格剧本」的:医疗教育研究里, 学生反而更喜欢和特训过的聊天机器人练问诊,而非真人扮演的标准化病人 ——评语是准确、真实、好聊、坦率18;作者自己的工作坊也由护理从业者 背书(见 §3.1 的两位护士朋友)。支持「证人矛盾」的:目击证人记忆本来就脆 ——易受事后信息污染,而人们格外不相信「细节 justified」式的指认 (「我忘不了他的眼睛」);Kelso 等人发现 AI 评估能抵消这种偏见, 但仅对本来就信任 AI 的评估者有效19。给「零定制」背书的: 取证聊天机器人 ChatCharlie 的实测——用它做初次取证的证人一周后回忆更好、 编造更少,但「部分正确的信息」小幅上升20;以及「感知权威」问题—— GenAI 的权威口吻会掩盖不准确,所以学生要把它当工具而不是可靠信息源21。

判断(我们的,不是书里的): 三档配置其实是一条「错误预算」的滑轨—— 教师愿意让学生暴露在多少「未经设计的错误」面前。预算越少,配置越重, 但学生见到真实 AI 的机会也越少;理想的课程大概是三档各走一遍。 如果错,会错在: 如果实测发现学生能把「定制角色里的错误」 迁移成「对通用 AI 的普遍警惕」,那重配置的课堂就没有牺牲真实性, 滑轨论就得修正——书里没有做这个迁移测量。

5. 边界与局限​

  • 聊天机器人当不了真人病人。 书里列的短板:非语言线索(体语、沉默、 声调变化)全部缺失;偶尔给出真人绝不会说的离谱回答;表达情绪吃力; 应对不了意外局面22——问诊课要专门补这一块。
  • 「学生反而偏爱机器人病人」是双刃剑。 偏爱带来练习量, 也可能让未来的护士对「会聊天的机器」过度放心;书里引它做论据时 没有讨论这层风险。
  • 历史人设的错误是故意留的,但错误幅度难拿捏。 留少了没得核, 留多了变成纯找茬;教师需要按课程目标调「错误密度」。
  • 别让学生生成真实人物。 书里在科学课变体里明确禁止让 AI 画真实科学家 的肖像——那是拿真人喂偏见,不合伦理23。

6. 可带走的​

  1. 配置即课程设计: 喂什么、瞒什么、禁什么,三张清单定一档;先选档,再写人物卡。
  2. 症状留白法: 把关键信息拆成「主动说的」和「问才说的」两份,问诊变成挖掘。
  3. 行为脚本与知识同重: 「要犹豫、要绕弯、永不报诊断」这些禁令,比知识库更决定拟真度。
  4. 矛盾分两堆: 解释得通的写进理论,解释不通的隔离不用——别让好故事吞掉坏证据。
  5. 证据要允许多种解释: 一锤定音的课堂练不出「知道 vs 能证明」的区分。
  6. AI 起草、专家验收: 两位护士朋友那一道工序,是所有「AI 造教材」的底线配置。
  7. 偶尔上一堂零定制课: 让学生见识通用 AI 的全部毛病,警惕本身就是教材。

7. 原文地图​

主题原书章原文位置
游戏缘起与接诊护士设定17. Diagnosis AItext/22-fm-section-4-revealing-biases-and-stereotyping.txt:16(搜「intake nurse」)
症状与人口学由作者供给17. Diagnosis AItext/22-fm-section-4-revealing-biases-and-stereotyping.txt:16(搜「demographic information I supplied」)
症状可交叉指向三病17. Diagnosis AItext/22-fm-section-4-revealing-biases-and-stereotyping.txt:99(搜「non-motor symptoms」)
只答被问到的17. Diagnosis AItext/22-fm-section-4-revealing-biases-and-stereotyping.txt:135(搜「only share what you」)
记录语气与犹豫17. Diagnosis AItext/22-fm-section-4-revealing-biases-and-stereotyping.txt:154(搜「hesitations during responses」)
症状「没说出口」的那份17. Diagnosis AItext/22-fm-section-4-revealing-biases-and-stereotyping.txt:272(搜「she left out」)
伯恩山犬的用意17. Diagnosis AItext/22-fm-section-4-revealing-biases-and-stereotyping.txt:253(搜「Bernese」) · text/22-fm-section-4-revealing-biases-and-stereotyping.txt:267(搜「low energy」)
留白症状清单17. Diagnosis AItext/22-fm-section-4-revealing-biases-and-stereotyping.txt:275(搜「hesitantly let slip」)
完整症状与疾病对照17. Diagnosis AItext/22-fm-section-4-revealing-biases-and-stereotyping.txt:301(搜「actual symptoms」)
聊天机器人行为脚本17. Diagnosis AItext/22-fm-section-4-revealing-biases-and-stereotyping.txt:288(搜「Only reveal pieces」) · text/22-fm-section-4-revealing-biases-and-stereotyping.txt:291(搜「Hedge sometimes」) · text/22-fm-section-4-revealing-biases-and-stereotyping.txt:295(搜「give the students the diagnosis」)
学习目标与量表也喂给机器人17. Diagnosis AItext/22-fm-section-4-revealing-biases-and-stereotyping.txt:311(搜「learning objectives」)
两位护士朋友质检17. Diagnosis AItext/22-fm-section-4-revealing-biases-and-stereotyping.txt:168(搜「who are nurses」)
NCSBN 评分框架(美国各州护理委员会全国联合会所订的临床判断测评框架)17. Diagnosis AItext/22-fm-section-4-revealing-biases-and-stereotyping.txt:106(搜「Clinical Judgment Measurement」)
好提示→少迭代→省电17. Diagnosis AItext/22-fm-section-4-revealing-biases-and-stereotyping.txt:319(搜「fewer iterations」)
证人书面证词(摄像头黑屏)14. AI Witness for the Prosecution or the Defense?text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:72(搜「already down」)
证人证词(红灯闪烁)14. AI Witness for the Prosecution or the Defense?text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:77(搜「red light blinking」)
摄像头错误循环14. AI Witness for the Prosecution or the Defense?text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:48(搜「error cycle」)
证据须允许多解释14. AI Witness for the Prosecution or the Defense?text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:126(搜「multiple plausible」)
七列矛盾对账表14. AI Witness for the Prosecution or the Defense?text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:145(搜「Conflicting Source」)
案情理论与隔离矛盾14. AI Witness for the Prosecution or the Defense?text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:113(搜「reconciled and quarantined」)
机器人不答有罪无罪14. AI Witness for the Prosecution or the Defense?text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:207(搜「guilt or innocence」)
馆员当法官的教训14. AI Witness for the Prosecution or the Defense?text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:216(搜「student evaluations」)
奇数个 AI 陪审团14. AI Witness for the Prosecution or the Defense?text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:220(搜「odd number」)
AI 只对信它的人有效14. AI Witness for the Prosecution or the Defense?text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:27(搜「already considered AI trustworthy」)
ChatCharlie 取证实验14. AI Witness for the Prosecution or the Defense?text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:29(搜「ChatCharlie」) · text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:34(搜「partially correct information」)
故意不定制15. Embedded with Alexander's Armytext/20-ch15-15-embedded-with-alexander-s-army.txt:46(搜「warts and all」)
感知权威15. Embedded with Alexander's Armytext/20-ch15-15-embedded-with-alexander-s-army.txt:47(搜「perceived authority」)
人设 bios 的错误故意留15. Embedded with Alexander's Armytext/20-ch15-15-embedded-with-alexander-s-army.txt:77(搜「strengthen the need」)
每断言两来源15. Embedded with Alexander's Armytext/20-ch15-15-embedded-with-alexander-s-army.txt:242(搜「translated ancient source」)
挪威性别差研究15. Embedded with Alexander's Armytext/20-ch15-15-embedded-with-alexander-s-army.txt:54(搜「1313 women」) · text/20-ch15-15-embedded-with-alexander-s-army.txt:57(搜「14 out of 16」)
采访收尾技巧15. Embedded with Alexander's Armytext/20-ch15-15-embedded-with-alexander-s-army.txt:271(搜「I didn't ask」)
机器人缺非语言线索17. Diagnosis AItext/22-fm-section-4-revealing-biases-and-stereotyping.txt:67(搜「non-verbal」)
禁止生成真实科学家肖像18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:485(搜「real scientists」)

Footnotes​

  1. 出处:「17. Diagnosis AI」第 125 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:125,搜「intake nurse who must」)。学生任务:问诊、按症状与人口学初判、给出确认用的检查计划;三选一的诊断在第 138 段(搜「Parkinson」)。 ↩

  2. 出处:「17. Diagnosis AI」第 135 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:135,搜「only share what you」)。原文:病人只分享你问到的,所以要问得有针对性。 ↩

  3. 出处:「17. Diagnosis AI」第 264 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:264,搜「So, here goes」)。配置五层的原文分布:人口学与环境第 266–267 段;症状两份第 271–272 段(搜「she left out」);完整对照第 301 段;行为脚本 Box 17.2 第 287–295 段;学习目标与量表第 312–313 段。 ↩

  4. 出处:「17. Diagnosis AI」第 253 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:253,搜「Bernese」)。品种选择理由(温顺、低精力,与人物完美契合)在第 268 段;「狗没扯倒她」的呼应证据在第 276 段(搜「never pulled her off her feet」)。 ↩

  5. 出处:「17. Diagnosis AI」第 168 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:168,搜「who are nurses」)。ChatGPT-5 起草症状,两位护士朋友核对其合理性与准确性。 ↩

  6. 出处:「14. AI Witness for the Prosecution or the Defense?」第 72 段(text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:72,搜「already down」)。冲突的另一侧在第 77 段(搜「red light blinking」);深蓝 SUV 在第 78 段(搜「dark blue SUV」);摄像头错误循环与固件推送在第 48–49 段(搜「error cycle」)。 ↩

  7. 出处:「14. AI Witness for the Prosecution or the Defense?」第 145 段(text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:145,搜「Conflicting Source」)。七列全名在第 144–146 段;状态三值(支持/动摇/悬而未决)在第 113 段(搜「supported, undermined, unresolved」)。 ↩

  8. 出处:「14. AI Witness for the Prosecution or the Defense?」第 126 段(text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:126,搜「multiple plausible」)。「知道 vs 能证明」在第 232 段(搜「know」)。 ↩

  9. 出处:「14. AI Witness for the Prosecution or the Defense?」第 113 段(text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:113,搜「reconciled and quarantined」)。案情理论 1–2 页、须扛得住交叉询问。 ↩

  10. 出处:「14. AI Witness for the Prosecution or the Defense?」第 207 段(text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:207,搜「guilt or innocence」)。 ↩

  11. 出处:「14. AI Witness for the Prosecution or the Defense?」第 216 段(text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:216,搜「student evaluations」)。作者自述「以评教为代价学到:法官不能是任课教师」。 ↩

  12. 出处:「14. AI Witness for the Prosecution or the Defense?」第 220 段(text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:220,搜「odd number」)。AI 陪审团方案:双方材料喂给奇数个不同 GenAI,统计判决。 ↩

  13. 出处:「15. Embedded with Alexander's Army」第 46 段(text/20-ch15-15-embedded-with-alexander-s-army.txt:46,搜「warts and all」)。原话:不为这个游戏做定制机器人——要学生见识 GenAI 的真实,包括缺点。 ↩

  14. 出处:「15. Embedded with Alexander's Army」第 44 段(text/20-ch15-15-embedded-with-alexander-s-army.txt:44,搜「Carefully feeding correct data」)。喂正确数据、断联网会剥夺 fluency 的重要一课。 ↩

  15. 出处:「15. Embedded with Alexander's Army」第 77 段(text/20-ch15-15-embedded-with-alexander-s-army.txt:77,搜「strengthen the need」)。人设简介由 ChatGPT-5 扩写,错误故意保留以强化事实核查需求。 ↩

  16. 出处:「15. Embedded with Alexander's Army」第 242 段(text/20-ch15-15-embedded-with-alexander-s-army.txt:242,搜「translated ancient source」)。每条断言两来源:一本文献译本加一篇现代学术研究,注明可信度、矛盾与缺口。 ↩

  17. 出处:「15. Embedded with Alexander's Army」第 54 段(text/20-ch15-15-embedded-with-alexander-s-army.txt:54,搜「1313 women」)。1313 女/1067 男;14/16 场景差距在第 58 段(搜「14 out of 16」);两组都缺训练在第 63–64 段(搜「not receiving much」)。 ↩

  18. 出处:「17. Diagnosis AI」第 89 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:89,搜「preferred interviews」)。Rädel-Ablass et al. 2025:学生压倒性地评价特训聊天机器人准确、真实、好聊、坦率。 ↩

  19. 出处:「14. AI Witness for the Prosecution or the Defense?」第 27 段(text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:27,搜「already considered AI trustworthy」)。Kelso et al. 2025:AI 评估能克服特征式指认偏见,但仅及于本就信任 AI 的评估者。featural justification 的定义在第 22–23 段(搜「featural justification」)。 ↩

  20. 出处:「14. AI Witness for the Prosecution or the Defense?」第 29 段(text/19-ch14-14-ai-witness-for-the-prosecution-or-the-defense.txt:29,搜「ChatCharlie」)。Dando & Adam 2025:回忆更好、编造更少,但「部分正确信息」略增(第 34 段,搜「partially correct information」)。 ↩

  21. 出处:「15. Embedded with Alexander's Army」第 47 段(text/20-ch15-15-embedded-with-alexander-s-army.txt:47,搜「perceived authority」)。Yee et al. 2023 提出感知权威概念;「当工具而非可靠信息源」是 Wall et al. 的建议(第 49 段,搜「tool, rather」)。 ↩

  22. 出处:「17. Diagnosis AI」第 67 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:67,搜「non-verbal」)。短板清单在第 67–77 段:非语言线索、离奇回答、偶发偏见、情绪表达、无法应对意外。 ↩

  23. 出处:「18. On the Trail of the Notorious AI Artist」第 485 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:485,搜「real scientists」)。原文:不许让学生让图像模型输出真实科学家的肖像——这不是伦理与负责任的使用。 ↩