跳到主要内容

看见偏见 — AI 画家的两次展览

这一章讲三件事: AI 图像偏见有多大规模、多硬的证据; 「prompt 中性就公平」为什么是错觉——默认值本身就是立场; 以及全书收尾的那个游戏:两次画廊,让学生亲眼看见偏见、再亲手拆它。 这是原书 Section 4(偏见与刻板印象)的全部,也是全书的落点。

1. 这一章讲什么​

文字的偏见(第 03、04 章)看得见字;图像的偏见更隐蔽——一张图没有 「引用」可查,观感就是全部论证。原书第 18 章做了三件事:把证据摆全 (带样本量的那种)、把机制讲透(训练数据的食谱)、再给一个让学生 自己撞上偏见的展览游戏。读完你会拿到一句话的总判据: AI 图像的默认值不是中立的空白,是训练数据里最常见的那个世界。

2. 顶层全景:从食谱到展览​

  训练食谱:社交媒体精修照 + 10 亿张网图 + 150 亿条用户提示 + 博物馆名画
      ▼
  默认人像:高薪职业 = 浅肤色男性;同种族非西方人长得越来越像
      ▼
  放大机制:用户不加纠正地采用 → 图回流训练 → 下一个模型默认值更歪
      ▼
  拆弹教具:两次画廊
      第一次:故意什么都不指定 → 偏见自己现形
      第二次:指定反向人口学 → 每一轮迭代都是一次对抗训练

  图说:偏见不是个别模型的 bug,是整套食谱的产物;
  拆弹靠的不是换模型,是「看得见 + 迭代到底」。

3. 核心原理​

3.1 证据有多硬:四组带样本量的研究​

书里引的证据全部带数字,这也是它比「AI 有偏见」这类空话值钱的地方:

研究样本发现
Hu & Kurylo,分析 Midjourney 与 Stable Diffusion数千张高薪职业的写实人像 ≈ 浅肤色男性,且常是金发1
Bowen & Watson 补充—Stable Diffusion 里,高光职业男性的图像数量是女性的三倍2
AIDahoul 等10,000 张 Stable Diffusion 图「种族同质化」:中东男性几乎清一色络腮胡、深肤色、传统服饰;同种族的非西方人像彼此长得太像3
Sun 等15,300 张 DALL-E 2 图 × 153 种职业,对照 2021 美国人口普查与 Google 图男性主导职业里女性被进一步压低、女性主导职业里被夸大;男性面孔上扬(严肃自信),女性面孔低垂(微笑顺从)4
Currie 等DALL-E 3 的澳洲医学生图女性不足,零有色人种5
Sadeghiani四家图像生成器中老年男性只出现在领导与顾问角色;没有任何一家生成过带可辨识残障的人物6

一组更小的对照实验把机制演给你看:让 AI 画「chef(主厨)」,大概率得到 穿厨师服的白人男性;把词换成「cook(厨工)」,出来的多半是系围裙的有色人种 女性7。一词之差,默认人像翻转——说明模型的语感里,职业词汇 自带人口学绑定,这是训练数据喂出来的条件反射。

3.2 机制:食谱与放大器​

偏见的来源书里一句话讲完——「you are what you eat(吃什么,像什么)」: 仅一个图像生成器就吃进了约 10 亿张网图,加上 2022 年 11 月到 2025 年 6 月 各平台用户生成的 150 亿+张图与博物馆名画,社会里现存的偏见 当然全部入锅8。Facebook 上约 3 亿张照片还带着滤镜——年轻一代 靠修图发「最好看的自己」,等于给食谱再掺一层失真9。

真正要警惕的是放大:研究显示图像模型不只复制偏见, 还会加剧并强化刻板归类,种族与性别尤甚10。放大器有两级: 模型侧,输出回流训练;用户侧,书里引 Sun 等人的「恶性反馈循环」—— 不加纠正地采用带偏见的图,下一次生成就更歪11。AIDahoul 等补了 接受端的伤害:反复观看把某类种族、性别钉在某种职业或特质上的图像, 会真实改变人的观感12。所以这不是「画得不准」的美学问题, 是会沉淀成社会认知的传播问题。

3.3 主走查:两次画廊​

展览游戏(Prestigio Elegante 画廊)的布展任务只有一句话:向两位「画家」 (两个图像生成平台)各约一幅画——某职业人物的肖像,此外什么都不许说: 不指定媒介、种族、族裔、性别、年龄、能力、发色瞳色、五官、肤色; 不许迭代,给什么挂什么13。全部作品挂上看板后,学生在每幅画下面 贴上自己的提示词与生成器名,再写一句分析:它为什么把这位专业人士画成这样? 这说明画家的(也就是模型的)训练吃进了什么14。

第二间画廊才见真章:同一批学生、同两个平台、同一个职业,这次指定 第一间画廊里没有出现的人口学组合(换族裔、换性别、换年龄、加残障……), 初始提示保持不变,然后记录全部迭代直到满意为止15。书里预言了 会发生什么——两个平台的迭代轨迹会迅速分叉,而这正是教学点:

  第一画廊(不指定):默认人像 → 偏见可见
  第二画廊(反向指定):第 1 轮 仍出默认人像
                      第 2 轮 部分服从(换了性别,没换年龄)
                      第 3 轮 部分服从(换了肤色,服装又滑回刻板)
                      …每轮都在掉回默认值的边缘
  图说:迭代记录本身就是偏见的「力量测量仪」——
  你能看到默认值每把你往回拽多远。(轮次内容为示意,实际问题各不相同。)

两个画廊对照,学生得到的是一次完整的经验:先撞上「我没问,它自己决定」, 再体会「我明确要求,它还在往回滑」。书里把这次经验的效果托付给全班 复盘:让学生自己讨论「接受 GenAI 生成的图像当真(字面意义上的 face value) 有什么风险」——书里不忘玩了个双关:no pun intended(「不以貌取 value」)16。

3.4 过度矫正也是失真:Firefly 的反例​

拆弹不等于矫枉过正。书里给了一个值得单独记的反例:Adobe Firefly 试图平衡 偏差,医生类图像里过度代表黑人男性与各族女性,甚至**「发明」了一张 1960 年代的女性大法官**——比现实中首位女性大法官 Sandra Day O'Connor 上任早了约 20 年17。纠正历史不平等与捏造历史,在这里只隔一层纸; 作者对「图像生成让创作民主化」的乐观也是有条件同意:前提是用户 承担起纠正不实图像的责任18。

4. 作者的判断与证据​

本章的证据密度是全书最高的一章,而且全部是带样本量或带对照的研究, 没有一条靠作者的体感(她自己的 DALL-E 经历在第 04 章引过,这里只作佐证)。 书的立场也由此很硬:图像偏见的特殊危险在于它绕过语言、直击观感, 而「反复暴露会改变视角」的研究意味着每一次不加核实的转发都是一次 微小但真实的再训练——训练的是看图的人。这也解释了为什么收尾的 教学工具是「展览」而不是「讲座」:偏见要用偏见的呈现方式去呈现。

5. 边界与全书收束​

  • 证据都是 2024–2025 年的模型。 图像模型的偏见程度在快速变动; 本章的价值在方法(带对照的审计、两次展览),不在具体百分比。
  • 样本内公平不等于样本外公平。 书里的研究多在西方语境; 「女性不足、零有色人种」的结论换个文化圈可能呈现别的形状,引用时注意。
  • 两次画廊测的是「抵抗迭代次数」,不是「偏见含量」。 迭代轨迹是教学演示, 不能当跨模型的公平性基准读。
  • 全书在第 19 章收束,并把它反复用过的三个圈画圆: 「最差版本」条款(你此刻用的永远是最差的 AI)、人在环上(最后一道工序永远是人)、 以及 Kenny Rogers 式的收手判据(第 11 章)。原书的最后一句给了教师: 游戏是教这些的最好载体,「坚持做下去,回报巨大」19。

6. 可带走的​

  1. 默认值即立场: 不指定 = 接受训练数据里最常见的那个世界;「中性提示」不存在。
  2. 看偏见要看样本量: 一万张图的「种族同质化」、一万五千张的职业画像对照人口普查——空口说偏见没有意义。
  3. 一词之差就是两个人像: chef 与 cook 的翻转说明职业词自带人口学绑定。
  4. 迭代记录是偏见的测力计: 第二画廊的每轮回滑,量出默认值的力气。
  5. 过度矫正也是失真: 发明「1960 年代女大法官」与刻板印象同源,别把矫正做成新的捏造。
  6. 转发即再训练: 反复暴露改变观感,核实与纠偏是受众的责任,不只是开发者的。
  7. 教偏见要用展览: 让人自己撞上,比告诉人「它有偏见」有效。

7. 原文地图​

主题原书章原文位置
「吃什么像什么」18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:343(搜「you are what you eat」)
10 亿训练图与 150 亿提示18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:344(搜「one billion images」) · text/22-fm-section-4-revealing-biases-and-stereotyping.txt:346(搜「15 billion user prompts」)
滤镜自拍掺假18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:340(搜「image filters」)
复制并强化偏见18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:349(搜「intensify and reinforce」)
高薪职业=浅肤男性金发18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:357(搜「high-paying professional jobs」)
男性图像三倍18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:359(搜「triple the number」)
10,000 张与种族同质化18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:366(搜「10,000 images」) · text/22-fm-section-4-revealing-biases-and-stereotyping.txt:367(搜「racial homogenization」)
印度=大胡子老人18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:362(搜「bearded old men」)
亚裔女性头像被「改白」18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:365(搜「fairer skin shades」)
DALL-E 2 职业画像研究18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:370(搜「15,300」) · text/22-fm-section-4-revealing-biases-and-stereotyping.txt:374(搜「faces angled upward」)
澳洲医学生零有色人种18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:376(搜「no people of color」)
零残障人物18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:379(搜「discernible disabilities」) · text/22-fm-section-4-revealing-biases-and-stereotyping.txt:383(搜「detectable disability」)
Firefly 过度矫正18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:387(搜「Sandra Day O」)
恶性反馈循环18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:393(搜「vicious feedback loop」)
chef 与 cook 翻转18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:397(搜「white male in a chef」)
展览规则:不许指定18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:421(搜「not stipulate the medium」)
不许迭代18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:430(搜「Do not iterate」)
第二画廊与迭代分叉18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:458(搜「second art gallery」) · text/22-fm-section-4-revealing-biases-and-stereotyping.txt:468(搜「start to differ」)
反复暴露改变视角18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:505(搜「changes people's perspectives」)
face value 双关18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:509(搜「no pun intended」)
放大边缘群体的「标准像」18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:518(搜「flight attendants or nurses」)
民主化创作的有条件同意18. On the Trail of the Notorious AI Artisttext/22-fm-section-4-revealing-biases-and-stereotyping.txt:389(搜「democratising art」)
全书收束19. Conclusiontext/22-fm-section-4-revealing-biases-and-stereotyping.txt:538(搜「human being in the loop」) · text/22-fm-section-4-revealing-biases-and-stereotyping.txt:563(搜「persistence pays off」)

Footnotes​

  1. 出处:「18. On the Trail of the Notorious AI Artist」第 357 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:357,搜「high-paying professional jobs」)。Hu & Kurylo 2024 对 Midjourney 与 Stable Diffusion 数千张图的分析。 ↩

  2. 出处:「18. On the Trail of the Notorious AI Artist」第 359 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:359,搜「triple the number」)。Stable Diffusion 高光职业图像男性为女性三倍。 ↩

  3. 出处:「18. On the Trail of the Notorious AI Artist」第 367 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:367,搜「racial homogenization」)。10,000 张图的样本在第 366 段(搜「10,000 images」);「中东男性几乎全是络腮胡、深肤色、传统服饰」在第 368 段(搜「Middle Eastern men」)。 ↩

  4. 出处:「18. On the Trail of the Notorious AI Artist」第 370 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:370,搜「15,300」)。153 种职业对照 2021 美国人口普查与 Google 图(第 371–373 段);面孔朝向的性别符号在第 374 段(搜「faces angled upward」)。 ↩

  5. 出处:「18. On the Trail of the Notorious AI Artist」第 376 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:376,搜「no people of color」)。DALL-E 3 澳洲医学生图:女性代表不足、零有色人种。 ↩

  6. 出处:「18. On the Trail of the Notorious AI Artist」第 379 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:379,搜「discernible disabilities」)。Sadeghiani 2024 对四家生成器的评估;中老年男性只出现在领导/顾问角色(第 380 段,搜「consultatory」);「零可辨识残障人物」在第 382–383 段(搜「detectable disability」)。 ↩

  7. 出处:「18. On the Trail of the Notorious AI Artist」第 397 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:397,搜「white male in a chef」)。chef→白人男主厨;cook→有色人种女性(第 397 段,搜「asks for a cook」)。 ↩

  8. 出处:「18. On the Trail of the Notorious AI Artist」第 344 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:344,搜「one billion images」)。10 亿张网图;150 亿+用户生成图回流(第 345–346 段,搜「15 billion user prompts」);「吃什么像什么」在第 343 段(搜「you are what you eat」)。 ↩

  9. 出处:「18. On the Trail of the Notorious AI Artist」第 340 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:340,搜「image filters」)。Facebook 约 3 亿张照片;Z 世代靠滤镜发「最好看的自己」,给 AI 喂了失真的印象。 ↩

  10. 出处:「18. On the Trail of the Notorious AI Artist」第 349 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:349,搜「intensify and reinforce」)。Ananya 2024 与 AIDahoul et al. 2025:图像模型不只复制失真,还加剧强化刻板归类,种族与性别尤甚。 ↩

  11. 出处:「18. On the Trail of the Notorious AI Artist」第 393 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:393,搜「vicious feedback loop」)。Sun et al. 的原话:「复制并强化性别偏见的恶性反馈循环」。 ↩

  12. 出处:「18. On the Trail of the Notorious AI Artist」第 505 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:505,搜「changes people's perspectives」)。反复暴露于把种族、性别钉在职业或特质上的图像,会真实改变人的观感(AIDahoul et al.)。 ↩

  13. 出处:「18. On the Trail of the Notorious AI Artist」第 421 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:421,搜「not stipulate the medium」)。禁止指定媒介与一切人口学特征;「不许迭代」在第 429 段(搜「Do not iterate」)。 ↩

  14. 出处:「18. On the Trail of the Notorious AI Artist」第 433 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:433,搜「short analysis」)。每幅画下贴提示词、生成器名与分析:它为什么这样画、说明其训练吃进了什么(第 433–437 段)。 ↩

  15. 出处:「18. On the Trail of the Notorious AI Artist」第 458 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:458,搜「second art gallery」)。第二画廊:同一 prompt 加反向人口学指定,交全部迭代记录;「迭代迅速分叉」在第 468 段(搜「start to differ」)。 ↩

  16. 出处:「18. On the Trail of the Notorious AI Artist」第 509 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:509,搜「no pun intended」)。学生在安全环境里体验「照单全收 GenAI 图像的风险」——face value(表面价值/以貌取人)的双关。 ↩

  17. 出处:「18. On the Trail of the Notorious AI Artist」第 387 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:387,搜「Sandra Day O」)。Firefly 过度代表黑人医生、发明 1960 年代女大法官(比 O'Connor 早约 20 年)。 ↩

  18. 出处:「18. On the Trail of the Notorious AI Artist」第 389 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:389,搜「democratising art」)。Paludan et al. 的「民主化创作」论;作者有条件同意:用户须承担纠正不实图像的责任(第 391–394 段)。 ↩

  19. 出处:「19. Conclusion」第 538 段(text/22-fm-section-4-revealing-biases-and-stereotyping.txt:538,搜「human being in the loop」)。作者的最高信条;全书最后一句在第 563 段(搜「persistence pays off」):游戏化与 GenAI 的联姻需要创意与耐心,但坚持回报巨大。 ↩