S7 · 全量评测:从训练划分到完全 OOD(论文主结果)¶
| 批次 / 日期 | 第二批 · 用户 09-05:"测试集不只是 160 的话,我们就得全测了";笔记 1(09-09)"esd 的全部量的重新评测";09-10 "分清楚是测试集,不要混在一起";09-11 "从数据到结论都写清楚,包括数据集从训练开始的划分,到测试是 in distribution,只有说话人不同,到完全 ood……所有的结果(ESD,CREMA-D,IEMOCAP)+ 对应的训练数据" |
| 延续自 | E2 / E3 / E4 / E5 / E7 / E8 二轮(随机 160 条);E3 的 CREMA-D |
| 状态 | ✅ T0-zh / T0-en / T1-CREMA / T1′-RAVDESS 四层完成(2026-09-11);T2-IEMOCAP 等用户上传 |
1 目的与用法¶
这是论文的主结果表:同一个模型、同一套指标,从训练分布内一路测到完全分布外,每一层只改变一个因素。
2 数据:从训练划分到 OOD 的四层¶
五个层的数据集全貌、编号含义与各层中立录音情况见总表 · 评测数据集。
划分规则(ESD):按句子编号,% 10 == 0 → test,== 1 → evaluation(未使用),其余 → train;不留说话人。训练说话人 17 位(中文 0001–0010,英文 0011、0015–0020;0012–0014 无音频)。
| 层 | 语料 | 语言 | 说话人 | 句子 | 录音条件 | 情感标签 | 与训练的差异 | 条数 |
|---|---|---|---|---|---|---|---|---|
| 训练 | ESD train | zh + en | 17 位 | 编号 % 10 ∉ | 录音室、朗读 | 4 情感 + 中立,平行 | — | 16,997 对(zh 10,097 / en 6,900) |
| T0 分布内 | ESD test | zh / en | 同 17 位(见过) | 编号 % 10 == 0(未见) | 同 | 同 | 只换句子 | zh 1,276 / en 861(样本冻结于 manifests/frozen/;ESD 0012–0014 补齐后 en 会涨到 1,348,届时另报) |
| T1 换说话人 | CREMA-D | en | 16 位演员(未见) | 12 句固定短句中的 3 句(IEO / IOM / TIE) | 录音室、朗读 | ANG / HAP / SAD × 强度 LO / MD / HI + NEU | 说话人 + 语料,且有真人强度三档 | 144 + 47 中立 |
| T1′ 换说话人 | RAVDESS | en | 24 位演员(未见) | 2 句固定 | 录音室、朗读 | 取 生气 / 高兴 / 悲伤 / 惊讶 × normal / strong,配对同句中立 | 同 T1,两档强度 | 765(每情感 96 normal + 96 strong) |
| T2 完全 OOD | IEMOCAP | en | 10 位(5 会话 × 男女各 1,未见) | 即兴 + 剧本对话,长句 | 对话、有交叠与噪声 | 标注者多数票;取 angry / happy(并 excited)/ sad / neutral,improvised 与 scripted 分开报 | 说话人 + 语料 + 说话风格 + 标签来源 | 上传后按上述筛选定 |
T1 与 T2 的输入只有情感录音(在线抽 whisper / CAM++),没有平行中立录音,所以:RA 锚点取该库自己的真实中立 / 真实情感均值;E7 的位移分解不做;α=0 的中立化只能与该库真实中立比。
3 指标¶
| 指标 | 测什么 | 工具 / 出处 | 锚点 | 门槛 |
|---|---|---|---|---|
| UTMOS ↑ | 自然度 | UTMOS22(Saeki 2022) | 同库真实中立 / 真实情感 | 严格可用:≥ 真实情感 − 0.5 |
| CER ↓ | 内容保真 | Paraformer-zh(中文)/ whisper-large-v3(英文) | 真实录音 CER | 严格可用:≤ 0.10;宽松 ≤ 0.15 |
| SECS ↑ | 说话人保持 | WavLM-base-plus-sv 余弦 | 同人真实中立 vs 真实情感 | — |
| RA(归一) | 情感强度 | 相对属性排序(E2),(RA − 真实中立) / (真实情感 − 真实中立) | 同库、同批 | 退化 |RA| ∉ [−3, 5] 剔除 |
| EIT 成对准确率 W<M / M<S / W<S | 相邻档能否分开(分辨力) | 协议出自 EMORL-TTS(Li et al., ICASSP 2026, arXiv 2510.05758)首次形式化的 Emotion Intensity Test;我们用 RA 代替听众打分,三档取 α = 0.5 / 0.75 / 1.0 | 随机 = 50% | 与 S8 基线同口径 |
| BWS-auto 分 | 整条刻度的两端是否拉得开 | Best-Worst Scaling 的协议(Zhou et al., TAFFC 2022 用于情感强度)+ 自动打分器:每组 4 条同句同情感样本(α = 0 / 0.5 / 1.0 / 1.5),用 RA 代替听众,RA 最高者 +1、最低者 −1,每档取均值,范围 [−1, 1] | 单调且两端拉开 | 见下方 ⚠️ |
| 真人强度一致(T1 / T1′) | 尺子效度 | CREMA-D 的 LO/MD/HI、RAVDESS 的 normal/strong 标注 vs 输出 RA | 保序 | — |
4 实验计划¶
| 层 | 生成 | α | 状态 |
|---|---|---|---|
| T0 zh 1,276 | 正式链路(音高对齐)七档 + 锚点 | 0 … 1.5 | ✅ 已有(outputs/m21full/e4、e4pa) |
| T0 en 861 | 正式链路七档 + 锚点 | 0 … 1.5 | ✅ outputs/m21full/e3pa |
| T0 附属:E5 四臂 / E7 位移分解 / E8 分段 | 全量 | — | ✅ 已有 |
| T1 CREMA-D 191 | 正式链路七档 + 锚点 | 0 … 1.5 | ✅ outputs/m21full/cremapa |
| T1′ RAVDESS 765 | 正式链路 + 直路七档 + 锚点 | 0 … 1.5 | ✅ outputs/m21full/ravpa(清单 manifests/ravdess_eval.jsonl) |
| T2 IEMOCAP | 正式链路七档 + 锚点 | 0 … 1.5 | ✅ 33,132 条,见 S9 |
5 结果(正式链路,2026-09-11)¶
分析脚本 m21_s7_analyze.py → outputs/m21full/s7_analysis.json。每层同一模型(M20@420k)、同一套指标、同一条推理链路(音高对齐混合);RA 归一 = (RA − 该层真实中立) / (该层真实情感 − 该层真实中立)。
5.1 T0 分布内 · ESD 中文 test(1,276 条)¶
| α | 0 | 0.25 | 0.5 | 0.75 | 1.0 | 1.25 | 1.5 | 真实中立 | 真实情感 |
|---|---|---|---|---|---|---|---|---|---|
| UTMOS ↑ | 2.32 | 2.15 | 2.07 | 2.19 | 2.29 | 2.00 | 1.63 | 3.68 | 2.74 |
| CER ↓ | 0.264 | 0.222 | 0.161 | 0.085 | 0.064 | 0.074 | 0.100 | 0.016 | 0.030 |
| SECS ↑ | 0.855 | 0.867 | 0.883 | 0.902 | 0.917 | 0.909 | 0.883 | 0.887 | 1.000 |
| RA | 0.16 | 0.29 | 0.47 | 0.69 | 0.97 | 1.26 | 1.63 | 0.07 | 1.03 |
| 归一 RA | 0.10 | 0.24 | 0.42 | 0.65 | 0.94 | 1.24 | 1.63 | 0 | 1 |
5.2 T0 分布内 · ESD 英文 test(861 条)¶
| α | 0 | 0.25 | 0.5 | 0.75 | 1.0 | 1.25 | 1.5 | 真实中立 | 真实情感 |
|---|---|---|---|---|---|---|---|---|---|
| UTMOS ↑ | 2.87 | 2.83 | 2.82 | 2.93 | 2.98 | 2.66 | 2.17 | 4.19 | 3.65 |
| CER ↓ | 0.124 | 0.097 | 0.080 | 0.060 | 0.053 | 0.059 | 0.081 | 0.026 | 0.028 |
| SECS ↑ | 0.827 | 0.837 | 0.851 | 0.871 | 0.892 | 0.895 | 0.883 | 0.902 | 1.000 |
| RA | 0.37 | 0.42 | 0.49 | 0.62 | 0.76 | 0.92 | 1.10 | 0.27 | 0.78 |
| 归一 RA | 0.21 | 0.29 | 0.45 | 0.69 | 0.98 | 1.29 | 1.64 | 0 | 1 |
英文层的 α=0 中立化比中文干净(CER 0.124 vs 0.264),音质也更高,与 E3 的结论一致。
5.3 T1 换说话人 · CREMA-D(完整版 819 条 · 91 位演员)¶
2026-09-13 用完整 CREMA-D(7,442 条全库)重建评测集,取与本项目情感体系一致且带真人三档强度标注的全部样本: 91 演员 × 3 情感(生气/高兴/悲伤)× 3 强度档(LO/MD/HI)= 819 条,全部来自 IEO 句;锚点为同演员同句的中立版本 91 条。 此前的 144 条子集(仅 16 位演员)已废弃。
| α | 0 | 0.25 | 0.5 | 0.75 | 1.0 | 1.25 | 1.5 | 真实中立 | 真实情感 |
|---|---|---|---|---|---|---|---|---|---|
| UTMOS ↑ | 2.67 | 2.47 | 2.28 | 2.34 | 2.42 | 2.21 | 1.93 | 1.61 | 1.55 |
| CER ↓ | 0.543 | 0.520 | 0.488 | 0.444 | 0.429 | 0.443 | 0.462 | 0.400 | 0.399 |
| SECS ↑ | 0.698 | 0.703 | 0.719 | 0.740 | 0.751 | 0.751 | 0.746 | 0.833 | 1.000 |
| RA | 0.23 | 0.33 | 0.47 | 0.65 | 0.84 | 1.03 | 1.27 | -0.67 | 0.48 |
| 归一 RA | 0.78 | 0.87 | 0.99 | 1.15 | 1.31 | 1.48 | 1.68 | 0 | 1 |
EIT W<M 0.81 · M<S 0.83 · W<S 0.85(n = 819) BWS-auto -0.71 · -0.08 · +0.03 · +0.76(n = 817,严格单调)
输入强度的次序被保住了(真人三档标注 → 同一 α 下的输出 RA,每档 272–273 条):
| 输入档 | 真实录音 RA | α=0 | α=0.5 | α=1.0 | α=1.5 |
|---|---|---|---|---|---|
| LO 低 | 0.09 | 0.21 | 0.38 | 0.64 | 0.96 |
| MD 中 | 0.39 | 0.25 | 0.46 | 0.78 | 1.19 |
| HI 高 | 0.97 | 0.22 | 0.55 | 1.12 | 1.67 |
三档在 α ≥ 0.5 处完全保序(91 位演员、每档 272 条,比原 16 演员子集可信得多)。
三点口径说明:① 该库真实录音的 UTMOS 只有 1.55(众包录制),UTMOS 在本层不作绝对参照;② 被测样本全是同一句 IEO,CER 只能层内相对比较,该库原声 CER 就有 0.399;③ SECS 0.75 低于同人真实中立的 0.833,未见说话人上的音色保持有差距。
5.4 T1′ 换说话人 · RAVDESS(765 条,24 位未见演员)¶
| α | 0 | 0.25 | 0.5 | 0.75 | 1.0 | 1.25 | 1.5 | 真实中立 | 真实情感 |
|---|---|---|---|---|---|---|---|---|---|
| UTMOS ↑ | 2.59 | 2.39 | 2.40 | 2.57 | 2.61 | 2.28 | 1.86 | 4.08 | 3.32 |
| CER ↓ | 0.346 | 0.283 | 0.180 | 0.094 | 0.064 | 0.067 | 0.094 | 0.000 | 0.003 |
| SECS ↑ | 0.719 | 0.743 | 0.769 | 0.799 | 0.826 | 0.835 | 0.825 | 0.898 | 1.000 |
| RA | 0.15 | 0.27 | 0.40 | 0.58 | 0.79 | 0.97 | 1.20 | 0.26 | 0.88 |
| 归一 RA | −0.16 | 0.02 | 0.23 | 0.53 | 0.85 | 1.14 | 1.52 | 0 | 1 |
两档输入强度(normal / strong)同样保序:
| 输入档 | 真实录音 RA | α=0 | α=0.5 | α=1.0 | α=1.5 |
|---|---|---|---|---|---|
| normal | 0.62 | 0.17 | 0.31 | 0.58 | 0.90 |
| strong | 1.14 | 0.14 | 0.48 | 1.00 | 1.50 |
α=1 时两档输出 0.58 / 1.00,与真实录音的 0.62 / 1.14 同序且量级接近;α=0 时两档被压到 0.17 / 0.14——中立化把输入的强度差异抹平了,这正是中立化该有的行为。
5.5 跨层汇总¶
| 层 | 说话人 | α=0 CER | α=1 UTMOS | α=1 CER | α=1 SECS | α=1 归一 RA | EIT 弱<中 / 中<强 / 弱<强 | n |
|---|---|---|---|---|---|---|---|---|
| T0 ESD-zh | 见过 | 0.264 | 2.29 | 0.064 | 0.917 | 0.94 | 0.94 / 0.93 / 0.96 | 1274 |
| T0 ESD-en | 见过 | 0.124 | 2.98 | 0.053 | 0.892 | 0.98 | 0.81 / 0.85 / 0.86 | 861 |
| T1 CREMA-D | 未见 | 0.543 | 2.42 | 0.429 | 0.751 | 1.31 | 0.81 / 0.83 / 0.85 | 819 |
| T1′ RAVDESS | 未见 | 0.346 | 2.61 | 0.064 | 0.826 | 0.85 | 0.90 / 0.89 / 0.94 | 765 |
| T2 IEMOCAP | 未见 | 0.707 | 1.98 | 0.346 | 0.770 | 1.71 | 0.80 / 0.85 / 0.87 | 3923 |
EIT 口径与 S8 完全相同(同句同情感三档 α = 0.5 / 0.75 / 1.0,RA 打分,随机 = 50%),协议出自 EMORL-TTS。
5.6 BWS-auto(Best-Worst Scaling 协议 + 自动打分器)¶
这不是主观 BWS
原始 BWS 是人评指标:每组 4 条样本,听众各选一条"情感最强"和一条"最弱",分数 = (选为最强次数 − 选为最弱次数) / 出现次数。 本节把听众换成 RA 排序器,协议(四元组、极值计分、分数定义)完全照搬 Zhou et al., TAFFC 2022,但打分来源是自动的,所以记作 BWS-auto。
为什么可以这样代替:RA 在 CREMA-D 的真人三档强度标注上验证过(成对准确率 76%,随机 50%,E2 §4.3),是有效度的强度代理。 两条限制:① 不能与其他论文里的主观 BWS 数值直接比较,只能层内比、模型间比(S8 用同一口径);② 主观 BWS 能捕捉的"听感自然度混淆强度"这类效应,自动版读不到。若需要主观版,协议照搬即可,只需换成听众。
每组 4 条同句同情感样本(α = 0 / 0.5 / 1.0 / 1.5),RA 最高者记 +1、最低者记 −1,每档取均值。
| 层(BWS-auto) | α=0 | α=0.5 | α=1.0 | α=1.5 | n 组 |
|---|---|---|---|---|---|
| T0 ESD-zh | −0.92 | −0.03 | +0.07 | +0.88 | 1267 |
| T0 ESD-en | −0.64 | −0.11 | +0.05 | +0.70 | 859 |
| T1 CREMA-D | -0.71 | -0.08 | +0.03 | +0.76 | 817 |
| T1′ RAVDESS | −0.82 | −0.10 | +0.07 | +0.85 | 763 |
| T2 IEMOCAP | −0.64 | −0.14 | +0.06 | +0.72 | 3907 |
四层都严格单调,两端接近 ±1(中文 −0.92 / +0.88 表示 92% 的组里 α=0 被判为最弱、88% 的组里 α=1.5 被判为最强)。中间两档的 BWS 分接近 0 是这个指标的定义使然——只有极值计分,中间档很少被选为最强或最弱;它们的可分性由 EIT 的相邻档准确率回答(0.76–0.94)。两个指标互补:BWS 证明整条刻度的两端拉得开,EIT 证明相邻档也分得开。
6 结论¶
-
五层全部完成:T2(IEMOCAP,真实对话)的 EIT 0.80 / 0.85 / 0.87、BWS 严格单调,详见 S9。跨层比较请用 EIT,不要用归一 RA——IEMOCAP 的锚点跨度只有 0.52(ESD 0.96),归一值会被放大。
-
强度旋钮在五层上都成立:归一 RA 随 α 单调;EIT 三个准确率 0.76–0.96,全部远高于随机 50%;BWS-auto 四层严格单调、两端达 ±0.64 ~ ±0.92。分布内(中文 EIT 0.94/0.93/0.96)最高,换说话人后仍有 0.76–0.94。
- 未见说话人上仍保住输入的强度次序:CREMA-D 的真人三档(LO/MD/HI)与 RAVDESS 的两档(normal/strong)在 α=1 时都被正确排序,且量级接近真实录音——模型读到的是"这条录音有多强",不只是"什么情感"。
- α=1 是各层的最优工作点:四层的 CER 最低点、SECS 最高点附近都在 α=1–1.25;α=1.5 各层 UTMOS 明显下滑(1.63–2.17)。
- OOD 的代价在音色不在内容:RAVDESS 的 α=1 CER 0.064 与分布内持平,但 SECS 0.826 低于同人中立 0.898;CREMA-D 的 SECS 0.757 vs 0.820。内容与强度可迁移,音色保持随说话人分布外而下降。
- 中立化(α=0)是最弱的一环:中文 CER 0.264、CREMA-D 0.542。这与 E4 §3.5 的逐说话人结论一致,是当前方法的已知边界。