阅读笔记 — Embedded Artificial Intelligence(通读记录)

通读日期 2026-08-27。原书 5 个正文章 + 引言,全部读完。 格式:暑期学校讲义集——每章 = 报告摘要 + 逐页幻灯条目;有的页带完整讲稿, 有的页只有标题或一句图注。低每页字数的根源在此,不是丢段。

可疑体检抽查结论(写作前必看)

• 抽查 ch02(23.8KB)、ch03(41.7KB)、ch04(33.8KB)全文人眼读完,ch05、引言、ch01 也读了。
• 读得通、无整段丢失、无乱码,行文连贯。判定:可以写。
• 真实的边界(不是丢段,是原书就这样):
  • ch01 全章只有摘要 + 幻灯标题,真内容在幻灯图里(3.6KB);
  • ch04 有相当多页的正文是「This slide might include…」式的推测性图注 (原书组装时对图页生成的说明,不是讲稿);引用时只能当「该书页讲了什么方向」,不能当事实;
  • ch05 的 STDP 六页插图(slides 14-19)是六段一模一样的占位描述;
  • ch02 的「Deep Neural Networks」页、ch03 的多张图页同理。
• 处理口径:凡机制讲解,只引文本真实存在的段落;图里才有的细节标「书里没给文字版」; ch04 那些推测性图注不引作事实依据。

元数据(版权页 03 / 编者 11)

• Published 2025 by River Publishers, distributed by Routledge;版权归 IEEE-CASS(暑期学校主办方)。 书卡元数据里的 2026 来自 PDF 元数据,版权页写的是 2025——总纲里两个都交代。
• 编者:François Rivet(IMS/Bordeaux INP,射频 IC,17 项专利,HERMES 相关)、 Cristell Maneux(IMS 实验室主任,FVLLMONTI 协调人,器件紧凑模型)、 Sylvain Saïghi(混合硬件计算组,硅神经元出身,ULPEC 协调人,RadioSpin 协调人)。
• 三位编者=三章讲者(ch3/4/5),H2020 三项目 FVLLMONTI / HERMES / RadioSpin 贯穿。

引言(05-fm-introduction.txt)

• 主题:embedded technology 与 deep learning 之间的技能鸿沟(:5-9)。
• 嵌入 AI = 在 edge device 上跑 ML 模型;代价是 security/privacy 改善、算力受限(:11-15)。
• 课程链:fabrication & characterization → neuromorphic device 设计与仿真 → 神经网络硬件 → 逻辑单元 → 系统仿真 → TCAD/紧凑模型 → 垂直 GAA 晶体管制造 → 自旋电子加速器 → 6G 收发机 → sub-THz CMOS → transformer 机器翻译/语音 → RF 指纹/乳腺癌识别应用(:18-30)。

Ch1 6G RF Roadmap(Belot;06-ch01,全章只有提纲)

• 3D 连接网络:Sat-Com + Mini-Cell + Mobile + IIoT(:17-21)。
• 频谱分配规划(:23-25);能效是从 5G 到 6G 的首要挑战(:27-30);IRDS 路线图(:32-34)。
• 工艺损伤清单 8 条:接收机热噪声 / 模拟带宽有限 / Walsh 序列上升下降时间 / 相位噪声 / 序列间延迟 / 混频器增益失衡 / 积分窗失配(非矩形窗)/ ADC 分辨率(:85-94)。
• 天线:in-package(20-40GHz)、300GHz 发射阵列(:73-76)。

Ch2 ASR(Rouas;07-ch02)

历史:Audrey(贝尔实验室 1950s,模拟,10 个数字 :91-93);Shoebox(IBM 1956,16 词 :97-100); 1970s 美国国防部计划,CMU Hearsay(:104-109);1980s HMM 引入才有连续语音(:158-162)。 动机:说话 ~150 词/分 vs 键盘 20-50(:34-37)。

• 发声:肺→声带(基频 F0/音高)→声道共振器→共振峰;共振峰频率区分音(:77-88, :112-123)。
• 最早系统用前两个共振峰区分数字(:126-129)。DTW 处理不同说话人/语速的非线性变换(:132-139); 局限:加词/加人要重录(:144-155)。
• 连续语音难点:词边界都划不出(:164-168)。
• 频谱图:滑窗傅里叶;元音谐波;维度仍太高(例 512 系数)(:172-178); Mel 三角滤波器 512→40,刻度连着人耳感知(:181-186)。
• HMM 管线:声学模型 P(O|W) + 发音词典 + 语言模型 P(W);argmax P(W|O)(贝叶斯)(:189-213)。
• 音素当单位:法语常用词 22000,而一门语言只需 20-60 个音素;UPSID 451 种语言、 900+ 音素、平均 25(11-119);IPA(:215-243)。每音素 = 3 状态 HMM,状态 = GMM(:246-250)。
• 训练数据:150h 精标语音(含呼吸/犹豫,>2M 词)+ 14 亿词报纸文本;LDC/ELRA 卖数据(:261-267)。
• WER=(S+D+I)/N,N=S+D+C(:270-280)。
• 性能随条件恶化:朗读 < 广播 < 对话 < 会议(:286-292,数字在图里)。
• 工具包:Kaldi/CMU-Sphinx/Julius/HTK 各 pros/cons(:294-308);E2E:EESEN/ESPNET/Espresso(:383-400)。
• E2E:单网络替掉分离模块(:318-320);seq2seq 编解码,长度可变(:323-325); 单位可选音素/字符/词/BPE,正字法省掉发音词典(:328-331)。
• 三大家族:CTC(2006,:338-346)、RNN-T(Graves 2012,给 CTC 加循环语言模型 :349-350)、 注意力(给重要帧加权 :353-360)。Transformer 2018 进 ASR(:366-369); Conformer = Transformer + 卷积模块(:373-374)。
• FVLLMONTI:入耳语音翻译设备;作者在 WP5「CNN/Transformer」(:403-405);用 ESPNET(:409)。
• 基线 WER 表(:412-417):LibriSpeech 英 2.6=SoA 2.6;Libritrans 英 6.6 vs 15.1; Ester 法 14.1 vs 15.7;Voxforge 意 9.1 vs 9.6;Vivos 越 14.7 vs 16.7。
• 压缩:量化(免重训)、剪枝、知识蒸馏、参数共享、矩阵分解;选定量化+剪枝因为免重训(:423-439); 剪枝最多 30% 权重置零不伤 WER(:442-446)。
• 压缩表(:449-455):Libritrans 99→20MB(WER 6.6→7.2);Ester 318→68(14.1→15.6); Voxforge 124→20(9.1→10.1);Vivos 80→15(14.7→16.1);平均 ~5 倍。出处 EUSIPCO 2022。
• Conformer vs Transformer 压缩鲁棒性表(:476-495): conformer-L 116.41M 参 WER 2.8,量化 3.9,+30% 剪枝 49.6;conformer 46.90M 3.1/6.1/>70; transformer 97.27M 3.4/3.7/4.5;transformer-L 31.01M 4.0/4.3/7.0。 → conformer 更好但远更怕剪。
• 结论(:497-515):E2E 数据多才赢,低资源不行;单位灵活免语言学知识但要网络架构知识; 训练贵(GPU 投入 + 数周);模型大,上手机是挑战;不同架构对压缩响应不同。

Ch3 On-wafer Characterization(Mukherjee;08-ch03)

• 路线图:平面→3D/垂直;IRDS:GAA + 结less(:45-52)。
• 背景:嵌入 AI/边缘计算全压在冯·诺依曼能效上;存内计算是方向;垂直集成是关键(:55-64)。
• FVLLMONTI 价值链:垂直结less纳米线 + 铁电存储 → 入耳翻译(transformer 架构); 表征→参数→模型→电路设计是其中一环(:67-74)。
• 测量挑战:器件比 pad 小 1000 倍(栅几十 nm vs pad 数百 µm,GSG 配置)(:122-142); 访问线比晶体管大 500 倍,去嵌小错→本征数据全错(:167-174)。
• 两步:校准(SOLT:Short-Open-Load-Thru,4 个标准件 + 矢网,把参考面推到探针尖)(:145-164)→ 去嵌(open/short 假件,不含晶体管但 pad 齐全)(:167-174)。
• 3D 架构 pad 不在同一平面 → 常规 open-short 去嵌不再适用(:177-189); 常规方法对垂直纳米线给出负的不物理的电容(:192-195)。
• 结less晶体管:均匀掺杂,无结(简化工艺 :200-208);无偏压全耗尽=关; 正栅压→纳米线芯部先形成沟道=阈值;部分耗尽→平带→表面积累(:211-222); 与 MOSFET 相反(MOSFET:平带→反型);正常工作在积累区,表现为受栅控的电阻(:225-234)。
• 结构:多根纳米线并联、共享全环绕栅;PtSi 肖特基接触控制注入(热电子发射+隧穿)(:237-249)。
• 参数:亚阈值摆幅、漏电、Ion/Ioff、Vth;直径必须 < 40nm;三种直径里 22nm 最佳折中 (最小:栅控最好但离散最大;最大:重复性最好但栅控丢)(:258-266, :407-421)。
• RF 表征:open 结构 S 参数测到 40GHz(-28dBm,SOLT on ISS)(:300-309); π 网络三电容对 3D 不够(:318-325)→ EM 仿真建 3D 模型验证(:328-334)→ 虚拟结构外推(:337-341)→ SSEC 等效电路(pad 电感/耦合电容/接触与访问电阻/交叠电容;MODEL2 加衬底 R-C 网络,更准)(:344-361) → 新去嵌:S→ABCD,乘寄生网络 ABCD 转置→Y(去栅漏耦合电容)→Z(去源访问电感)→S(:365-381); 结果:两法 Cgs 接近,常规法 Cds 为负,新法为正(:384-391)。
• VTH 提取:跨导法最流行;Y 函数、gm/ID 为纳米器件;JL 用 d(gm/ID)/dVG 峰值,对漏压变化鲁棒; 噪声需拟合函数(:424-436)。
• 热:JL 电流随温度升高(与 MOS 相反):高掺杂→低迁移率且温度依赖弱;JL 由 VTH 随 T 下降主导(:459-470)。 RTH = 内部温升/功耗,改写成 VTH 随漏电压、随温度两个变化率之比;相对误差相除反而压总误差(:481-487); COMSOL 多物理仿真对上(:490-494)。热阻抗:热容并联热阻(类比 RC);低频 S 参数 30kHz-3GHz 测; 两极点 Foster 网络=纳米线+肖特基接触两份(:497-507)。
• 脉冲 I-V:短脉冲→器件温度来不及变、陷阱来不及响应(:534-539);常规 I-V 有热记忆(:541-545); 脉宽 < 热时间常数则压自热;在脉宽 80-95% 处读数防振铃(:548-568); MOS:脉宽越窄电流越大(迁移率退化少);JL 反过来:脉宽越宽电流越大(VTH 漂移主导)(:571-583); VTH 随脉宽漂移 ↔ 陷阱密度(:587-592)。
• 低频噪声:1/f 闪烁噪声,缩小越主导;上变频成相位噪声伤 LNA(:615-623); 装置:偏置+两个低噪声放大器+双通道动态信号分析仪,法拉第笼;电流噪声谱=电压谱×输出电导²(:626-633); JL 噪声谱符合 CNF+CMF(载流子数+相关迁移率涨落),胜过 Hooge(:636-648); 归一化噪声 vs 栅过驱:反比段=沟道单电荷陷阱,高偏压趋平=访问电阻贡献(:651-658); 产出 SPICE 参数 KF + 各几何陷阱密度(:661-665)。
• 收尾:紧凑模型用 Verilog-A 写进 SPICE 库;模型精度吃表征精度;设计-工艺协同优化(DTCO)(:690-729)。

Ch4 Connecting Intelligences(Rivet;09-ch04)

• ⚠️ 本章很多页的正文是推测性图注(「This slide might…」),只可当方向不当事实。
• 历史(可靠段落):Maxwell 方程=无线电之根(:43-60);Meucci 1850 电话构想/Bell 1876 专利; Hertz 证实 EM 遇金属反射→雷达(:75-79);二战 Motorola SCR-300 背负/SCR-536 手持(:84-92); Star Trek 启发 Martin Cooper,第一通电话打给 Joel Engel(:95-108)。
• 半导体:贝尔实验室 PN 结/NPN 管(诺奖)→ Shockley 实验室 → 八人出走创 Fairchild(:112-117); Kilby 第一块 IC → Noyce → Intel → 摩尔定律(:120-125);IC 从 1980s 的 20cm 板到今天 2mm 装几十亿晶体管(:175-180)。
• 收发机:混频器、本振、滤波;heterodyne/homodyne(:137-142);调制=载波三选一(幅度/频率/相位)(:145-168)。
• 数据转换是关键瓶颈:DAC/ADC;PA/LNA;功耗/速度/分辨率三难(:194-198); 5G=「在 5GHz 带宽里同时听见火箭和苍蝇」,60dB 增益(:201-207); Boris Murmann ADC 调查:理想目标与现有技术有差(:211-216)。
• 5G→6G:数学信号处理+AI,敏捷识别、实时重构;BEOL/FDSOI(:228-235); 6G 愿景:connect the unconnected、IoT/V2X/全息(:238-243)。
• Walsh/Hadamard:用方波造正弦(:254-265);宽带信号转换器(:268-272)。
• DAC 对比表(:286-294):本作 65nm/0.75GHz/60mW/9b/3GS/s vs SoA (28nm 13b 9GS/s 360mW;16nm 12b 16GS/s 530mW;16nm 16b 6GS/s 350mW 等)→ 本作时钟与功耗远低。
• DPD:功率放大器非线性 → 数字域用逆模型预畸变,过 PA 后线性(:344-357); Volterra 级数带记忆,优于纯幂级数(:360-366);放进 Walsh 基(:369-375); WLMS 比 LMS 收敛快、复杂度低(:378-383)。
• 6G 频段 120-180GHz,10Gbps+(:405-411)。
• HERMES(H2020):CMOS 做 sub-THz 认知无线电芯片(:414-419);宽带生成器+混频上变频+镜像抑制(:424-429); Hilbert 变换造无镜像信号(:432-447);卷积窗长几十 ns 最佳(:466-472); Walsh-Hilbert 模拟处理:镜像抑制的代价是窗化引入噪底(:491-497)。
• 可持续性:传统设计的 6G 网要用天文数字太阳能板(挑衅性事实,数字在图里)(:501-505)。
• Beyond 6G:边缘优先于云(sub-THz;容量/时延/能效)(:508-515); 智能自主射频能耗 ÷1000-10000;传统系统传高精度原始数据(极低 BER)而非「智能可解释的知识」; 引 Strinati & Barbarossa 2021(语义/目标导向通信)(:508-532)。
• Shannon vs Weaver:传「原始数据完美」vs「先理解再传」;神经网络做语义编码,抗噪、省带宽(:544-583); OSDM:正交序列分割复用,Walsh 系数按约束整形频谱(:554-561); 语义优化随时间演进(人际关系隐喻)(:612-619)。

Ch5 Green AI(Saïghi;10-ch05)

• 能耗:ICT 2020 年约占全球电力 5%,2030 预测 20%,不可持续(:36-38); 例子:100GB 走 1km ADSL 的能耗(:26-28);Renault Zoe 52kWh、大疆 M600 Pro 780Wh(:31-33)。
• 处理器局限:热耗散、访存(冯·诺依曼瓶颈)、搬数据的能耗(:41-44)。
• 大脑 ~20W 大规模并行(:47-49);ANN 跑在冯·诺依曼机上先天不划算(:52-54); 专用处理器:TrueNorth/TPU/Myriad/Loihi/Zeroth(:57-59);边缘计算省时延与能耗(:62-64)。
• 事件驱动计算:脉冲神经元(:80);STDP:局部、无监督,按脉冲时序改权重(:84-86); (六页插图只有占位描述,细节在图里 :87-111)。
• CMOS 神经形态:芯片大部分面积给突触(:112-116)。
• 忆阻器:非易失、内在可塑、像生物突触(:121-123);阻值随事件的幅度/次数/时长变(:126-128); STDP → 电压依赖可塑性(SVDP);铁电忆阻器实测 STDP(:131-136);驱动难题:电压/电流管理(:140-141)。
• 概念验证:MNIST 上忆阻网络随时间学会(:144-146);神经元数与连接率影响识别率(:148-151)。
• ULPEC:Prophesee 事件相机——高时间精度、高动态范围、内在数据压缩(:157); 忆阻器+CMOS 传感器+SNN 集成(:160-166)。
• 主走查素材 N-MNIST(:170-184):相机 100ms 扫视扫数字;STDP 规则:窗口内先pre后post=增强, 只有 post=抑制;窗口 10µs(模拟设计决定);天真场景 0% 识别率(事件不够)→ 新学习规则(:187-189); 增强/抑制参数要平衡(:192-193)。
• 结论(:199-205):要在「大幻灭」前解决 AI 能耗;事件计算适合边缘;CMOS 不够,非传统纳电子将担纲; 离工业产品还长;最好的节能是不生成无用数据。

② 类锚候选(我们自己的书架,书里讲得浅的地方)

• 注意力机制:shelf=ai-book-reference/nndl-2e#20-attention.md(「打分再加权」)
• Transformer:shelf=ai-book-reference/nndl-2e#21-transformer.md
• 神经形态在 AI 底座里的位置:shelf=ai-book-reference/nndl-general#18-steel-and-silicon.md(神经形态=「模仿大脑突触的脉冲式计算,极省电」)
• 量化/剪枝在别处也只是点名:shelf=ai-book-reference/nndl-general#11-context-cost.md
• (已核 book-verify 的 checkShelf:同仓库 docs 可回核)

拟定切分(9 章,详见 01-outline.md)

01 桥接什么(引言) / 02 通信拉力(ch4前半+ch1) / 03 ASR 传统管线(ch2前半) / 04 E2E 与压缩(ch2后半) / 05 结less晶体管(ch3前半) / 06 测量表征(ch3后半) / 07 Walsh/Hilbert 射频(ch4中) / 08 语义通信(ch4尾) / 09 Green AI(ch5)

审稿后补记(2026-08-27)

• 引用版权页(03-fm)与 About the Editors(11-fm)的理由:这两份不是点导线导航章 (目录/索引),提取文本干净;引用服务年版考订(2025 vs 2026)与编者利益相关考订, review-01 观察项判定为有理由的偏离。
• review-01 五条已处理:07 章三处推测性图注(几十纳秒窗长/信道聚合与噪底/WLMS) 降格为图注转述并照实标注;07 §1 基完备性半句拆为④类通用知识;兑现表 05 §2→§4; 人名统一作 Leïla Ben Letaifa / Jean-Luc Rouas(注明原书转码)。