跳转至

S7 · 全量评测:从训练划分到完全 OOD(论文主结果)

批次 / 日期 第二批 · 用户 09-05:"测试集不只是 160 的话,我们就得全测了";笔记 1(09-09)"esd 的全部量的重新评测";09-10 "分清楚是测试集,不要混在一起";09-11 "从数据到结论都写清楚,包括数据集从训练开始的划分,到测试是 in distribution,只有说话人不同,到完全 ood……所有的结果(ESD,CREMA-D,IEMOCAP)+ 对应的训练数据"
延续自 E2 / E3 / E4 / E5 / E7 / E8 二轮(随机 160 条);E3 的 CREMA-D
状态 ✅ T0-zh / T0-en / T1-CREMA / T1′-RAVDESS 四层完成(2026-09-11);T2-IEMOCAP 等用户上传

1 目的与用法

这是论文的主结果表:同一个模型、同一套指标,从训练分布内一路测到完全分布外,每一层只改变一个因素。

2 数据:从训练划分到 OOD 的四层

五个层的数据集全貌、编号含义与各层中立录音情况见总表 · 评测数据集。

划分规则(ESD):按句子编号,% 10 == 0 → test,== 1 → evaluation(未使用),其余 → train;不留说话人。训练说话人 17 位(中文 0001–0010,英文 0011、0015–0020;0012–0014 无音频)。

层 语料 语言 说话人 句子 录音条件 情感标签 与训练的差异 条数
训练 ESD train zh + en 17 位 编号 % 10 ∉ 录音室、朗读 4 情感 + 中立,平行 — 16,997 对(zh 10,097 / en 6,900)
T0 分布内 ESD test zh / en 同 17 位(见过) 编号 % 10 == 0(未见) 同 同 只换句子 zh 1,276 / en 861(样本冻结于 manifests/frozen/;ESD 0012–0014 补齐后 en 会涨到 1,348,届时另报)
T1 换说话人 CREMA-D en 16 位演员(未见) 12 句固定短句中的 3 句(IEO / IOM / TIE) 录音室、朗读 ANG / HAP / SAD × 强度 LO / MD / HI + NEU 说话人 + 语料,且有真人强度三档 144 + 47 中立
T1′ 换说话人 RAVDESS en 24 位演员(未见) 2 句固定 录音室、朗读 取 生气 / 高兴 / 悲伤 / 惊讶 × normal / strong,配对同句中立 同 T1,两档强度 765(每情感 96 normal + 96 strong)
T2 完全 OOD IEMOCAP en 10 位(5 会话 × 男女各 1,未见) 即兴 + 剧本对话,长句 对话、有交叠与噪声 标注者多数票;取 angry / happy(并 excited)/ sad / neutral,improvised 与 scripted 分开报 说话人 + 语料 + 说话风格 + 标签来源 上传后按上述筛选定

T1 与 T2 的输入只有情感录音(在线抽 whisper / CAM++),没有平行中立录音,所以:RA 锚点取该库自己的真实中立 / 真实情感均值;E7 的位移分解不做;α=0 的中立化只能与该库真实中立比。

3 指标

指标 测什么 工具 / 出处 锚点 门槛
UTMOS ↑ 自然度 UTMOS22(Saeki 2022) 同库真实中立 / 真实情感 严格可用:≥ 真实情感 − 0.5
CER ↓ 内容保真 Paraformer-zh(中文)/ whisper-large-v3(英文) 真实录音 CER 严格可用:≤ 0.10;宽松 ≤ 0.15
SECS ↑ 说话人保持 WavLM-base-plus-sv 余弦 同人真实中立 vs 真实情感 —
RA(归一) 情感强度 相对属性排序(E2),(RA − 真实中立) / (真实情感 − 真实中立) 同库、同批 退化 |RA| ∉ [−3, 5] 剔除
EIT 成对准确率 W<M / M<S / W<S 相邻档能否分开(分辨力) 协议出自 EMORL-TTS(Li et al., ICASSP 2026, arXiv 2510.05758)首次形式化的 Emotion Intensity Test;我们用 RA 代替听众打分,三档取 α = 0.5 / 0.75 / 1.0 随机 = 50% 与 S8 基线同口径
BWS-auto 分 整条刻度的两端是否拉得开 Best-Worst Scaling 的协议(Zhou et al., TAFFC 2022 用于情感强度)+ 自动打分器:每组 4 条同句同情感样本(α = 0 / 0.5 / 1.0 / 1.5),用 RA 代替听众,RA 最高者 +1、最低者 −1,每档取均值,范围 [−1, 1] 单调且两端拉开 见下方 ⚠️
真人强度一致(T1 / T1′) 尺子效度 CREMA-D 的 LO/MD/HI、RAVDESS 的 normal/strong 标注 vs 输出 RA 保序 —

4 实验计划

层 生成 α 状态
T0 zh 1,276 正式链路(音高对齐)七档 + 锚点 0 … 1.5 ✅ 已有(outputs/m21full/e4、e4pa)
T0 en 861 正式链路七档 + 锚点 0 … 1.5 ✅ outputs/m21full/e3pa
T0 附属:E5 四臂 / E7 位移分解 / E8 分段 全量 — ✅ 已有
T1 CREMA-D 191 正式链路七档 + 锚点 0 … 1.5 ✅ outputs/m21full/cremapa
T1′ RAVDESS 765 正式链路 + 直路七档 + 锚点 0 … 1.5 ✅ outputs/m21full/ravpa(清单 manifests/ravdess_eval.jsonl)
T2 IEMOCAP 正式链路七档 + 锚点 0 … 1.5 ✅ 33,132 条,见 S9

5 结果(正式链路,2026-09-11)

分析脚本 m21_s7_analyze.py → outputs/m21full/s7_analysis.json。每层同一模型(M20@420k)、同一套指标、同一条推理链路(音高对齐混合);RA 归一 = (RA − 该层真实中立) / (该层真实情感 − 该层真实中立)。

5.1 T0 分布内 · ESD 中文 test(1,276 条)

α 0 0.25 0.5 0.75 1.0 1.25 1.5 真实中立 真实情感
UTMOS ↑ 2.32 2.15 2.07 2.19 2.29 2.00 1.63 3.68 2.74
CER ↓ 0.264 0.222 0.161 0.085 0.064 0.074 0.100 0.016 0.030
SECS ↑ 0.855 0.867 0.883 0.902 0.917 0.909 0.883 0.887 1.000
RA 0.16 0.29 0.47 0.69 0.97 1.26 1.63 0.07 1.03
归一 RA 0.10 0.24 0.42 0.65 0.94 1.24 1.63 0 1

5.2 T0 分布内 · ESD 英文 test(861 条)

α 0 0.25 0.5 0.75 1.0 1.25 1.5 真实中立 真实情感
UTMOS ↑ 2.87 2.83 2.82 2.93 2.98 2.66 2.17 4.19 3.65
CER ↓ 0.124 0.097 0.080 0.060 0.053 0.059 0.081 0.026 0.028
SECS ↑ 0.827 0.837 0.851 0.871 0.892 0.895 0.883 0.902 1.000
RA 0.37 0.42 0.49 0.62 0.76 0.92 1.10 0.27 0.78
归一 RA 0.21 0.29 0.45 0.69 0.98 1.29 1.64 0 1

英文层的 α=0 中立化比中文干净(CER 0.124 vs 0.264),音质也更高,与 E3 的结论一致。

5.3 T1 换说话人 · CREMA-D(完整版 819 条 · 91 位演员)

2026-09-13 用完整 CREMA-D(7,442 条全库)重建评测集,取与本项目情感体系一致且带真人三档强度标注的全部样本: 91 演员 × 3 情感(生气/高兴/悲伤)× 3 强度档(LO/MD/HI)= 819 条,全部来自 IEO 句;锚点为同演员同句的中立版本 91 条。 此前的 144 条子集(仅 16 位演员)已废弃。

α 0 0.25 0.5 0.75 1.0 1.25 1.5 真实中立 真实情感
UTMOS ↑ 2.67 2.47 2.28 2.34 2.42 2.21 1.93 1.61 1.55
CER ↓ 0.543 0.520 0.488 0.444 0.429 0.443 0.462 0.400 0.399
SECS ↑ 0.698 0.703 0.719 0.740 0.751 0.751 0.746 0.833 1.000
RA 0.23 0.33 0.47 0.65 0.84 1.03 1.27 -0.67 0.48
归一 RA 0.78 0.87 0.99 1.15 1.31 1.48 1.68 0 1

EIT W<M 0.81 · M<S 0.83 · W<S 0.85(n = 819) BWS-auto -0.71 · -0.08 · +0.03 · +0.76(n = 817,严格单调)

输入强度的次序被保住了(真人三档标注 → 同一 α 下的输出 RA,每档 272–273 条):

输入档 真实录音 RA α=0 α=0.5 α=1.0 α=1.5
LO 低 0.09 0.21 0.38 0.64 0.96
MD 中 0.39 0.25 0.46 0.78 1.19
HI 高 0.97 0.22 0.55 1.12 1.67

三档在 α ≥ 0.5 处完全保序(91 位演员、每档 272 条,比原 16 演员子集可信得多)。

三点口径说明:① 该库真实录音的 UTMOS 只有 1.55(众包录制),UTMOS 在本层不作绝对参照;② 被测样本全是同一句 IEO,CER 只能层内相对比较,该库原声 CER 就有 0.399;③ SECS 0.75 低于同人真实中立的 0.833,未见说话人上的音色保持有差距。

5.4 T1′ 换说话人 · RAVDESS(765 条,24 位未见演员)

α 0 0.25 0.5 0.75 1.0 1.25 1.5 真实中立 真实情感
UTMOS ↑ 2.59 2.39 2.40 2.57 2.61 2.28 1.86 4.08 3.32
CER ↓ 0.346 0.283 0.180 0.094 0.064 0.067 0.094 0.000 0.003
SECS ↑ 0.719 0.743 0.769 0.799 0.826 0.835 0.825 0.898 1.000
RA 0.15 0.27 0.40 0.58 0.79 0.97 1.20 0.26 0.88
归一 RA −0.16 0.02 0.23 0.53 0.85 1.14 1.52 0 1

两档输入强度(normal / strong)同样保序:

输入档 真实录音 RA α=0 α=0.5 α=1.0 α=1.5
normal 0.62 0.17 0.31 0.58 0.90
strong 1.14 0.14 0.48 1.00 1.50

α=1 时两档输出 0.58 / 1.00,与真实录音的 0.62 / 1.14 同序且量级接近;α=0 时两档被压到 0.17 / 0.14——中立化把输入的强度差异抹平了,这正是中立化该有的行为。

5.5 跨层汇总

层 说话人 α=0 CER α=1 UTMOS α=1 CER α=1 SECS α=1 归一 RA EIT 弱<中 / 中<强 / 弱<强 n
T0 ESD-zh 见过 0.264 2.29 0.064 0.917 0.94 0.94 / 0.93 / 0.96 1274
T0 ESD-en 见过 0.124 2.98 0.053 0.892 0.98 0.81 / 0.85 / 0.86 861
T1 CREMA-D 未见 0.543 2.42 0.429 0.751 1.31 0.81 / 0.83 / 0.85 819
T1′ RAVDESS 未见 0.346 2.61 0.064 0.826 0.85 0.90 / 0.89 / 0.94 765
T2 IEMOCAP 未见 0.707 1.98 0.346 0.770 1.71 0.80 / 0.85 / 0.87 3923

EIT 口径与 S8 完全相同(同句同情感三档 α = 0.5 / 0.75 / 1.0,RA 打分,随机 = 50%),协议出自 EMORL-TTS。

5.6 BWS-auto(Best-Worst Scaling 协议 + 自动打分器)

这不是主观 BWS

原始 BWS 是人评指标:每组 4 条样本,听众各选一条"情感最强"和一条"最弱",分数 = (选为最强次数 − 选为最弱次数) / 出现次数。 本节把听众换成 RA 排序器,协议(四元组、极值计分、分数定义)完全照搬 Zhou et al., TAFFC 2022,但打分来源是自动的,所以记作 BWS-auto。

为什么可以这样代替:RA 在 CREMA-D 的真人三档强度标注上验证过(成对准确率 76%,随机 50%,E2 §4.3),是有效度的强度代理。 两条限制:① 不能与其他论文里的主观 BWS 数值直接比较,只能层内比、模型间比(S8 用同一口径);② 主观 BWS 能捕捉的"听感自然度混淆强度"这类效应,自动版读不到。若需要主观版,协议照搬即可,只需换成听众。

每组 4 条同句同情感样本(α = 0 / 0.5 / 1.0 / 1.5),RA 最高者记 +1、最低者记 −1,每档取均值。

层(BWS-auto) α=0 α=0.5 α=1.0 α=1.5 n 组
T0 ESD-zh −0.92 −0.03 +0.07 +0.88 1267
T0 ESD-en −0.64 −0.11 +0.05 +0.70 859
T1 CREMA-D -0.71 -0.08 +0.03 +0.76 817
T1′ RAVDESS −0.82 −0.10 +0.07 +0.85 763
T2 IEMOCAP −0.64 −0.14 +0.06 +0.72 3907

四层都严格单调,两端接近 ±1(中文 −0.92 / +0.88 表示 92% 的组里 α=0 被判为最弱、88% 的组里 α=1.5 被判为最强)。中间两档的 BWS 分接近 0 是这个指标的定义使然——只有极值计分,中间档很少被选为最强或最弱;它们的可分性由 EIT 的相邻档准确率回答(0.76–0.94)。两个指标互补:BWS 证明整条刻度的两端拉得开,EIT 证明相邻档也分得开。

6 结论

  1. 五层全部完成:T2(IEMOCAP,真实对话)的 EIT 0.80 / 0.85 / 0.87、BWS 严格单调,详见 S9。跨层比较请用 EIT,不要用归一 RA——IEMOCAP 的锚点跨度只有 0.52(ESD 0.96),归一值会被放大。

  2. 强度旋钮在五层上都成立:归一 RA 随 α 单调;EIT 三个准确率 0.76–0.96,全部远高于随机 50%;BWS-auto 四层严格单调、两端达 ±0.64 ~ ±0.92。分布内(中文 EIT 0.94/0.93/0.96)最高,换说话人后仍有 0.76–0.94。

  3. 未见说话人上仍保住输入的强度次序:CREMA-D 的真人三档(LO/MD/HI)与 RAVDESS 的两档(normal/strong)在 α=1 时都被正确排序,且量级接近真实录音——模型读到的是"这条录音有多强",不只是"什么情感"。
  4. α=1 是各层的最优工作点:四层的 CER 最低点、SECS 最高点附近都在 α=1–1.25;α=1.5 各层 UTMOS 明显下滑(1.63–2.17)。
  5. OOD 的代价在音色不在内容:RAVDESS 的 α=1 CER 0.064 与分布内持平,但 SECS 0.826 低于同人中立 0.898;CREMA-D 的 SECS 0.757 vs 0.820。内容与强度可迁移,音色保持随说话人分布外而下降。
  6. 中立化(α=0)是最弱的一环:中文 CER 0.264、CREMA-D 0.542。这与 E4 §3.5 的逐说话人结论一致,是当前方法的已知边界。

讨论