S6 · λ 消融:中段强度与基础指标
|
|
| 批次 / 日期 |
第二批 · 笔记 5(09-09):"lambda 消融的话,加上 RA@alpha=0.5 的结果……看看 lambda 消融对 RA@alpha=0.5 的影响";09-11:"不止是测 lambda 对 RA 这个简单的影响,还要有基础的 cer,音质,音色等等" |
| 延续自 |
M22:λ ∈ {0, 1, 2, 5} @100k |
| 状态 |
✅ 完成(2026-09-11 回填) |
1 目的与用法
目的:正交正则权重 λ 对旋钮的影响——中段(α=0.5)的强度,以及每一档的音质、内容、音色。
在论文里怎么用:消融表。一张表回答"λ 该不该有、该取多少"。
2 数据与模型
| 项 |
值 |
| 模型(4 条,同配置只改 λ) |
λ = 0 / 2 / 5:M22 各从基座训 100k;λ = 1:M20 @100k(主线同一段) |
| 评测样本 |
ESD-zh test 随机 160 条(四情感各 40,10 位说话人,seed 0;与 E4 二轮同一批) |
| 生成 |
直路,α ∈ |
| 锚点 |
同 160 条的真实中立 / 真实情感录音 |
3 指标
| 指标 |
测什么 |
出处 |
| RA(归一) |
情感强度:0 = 真实中立均值,1 = 真实情感均值 |
E2 |
| UTMOS ↑ |
音质 |
UTMOS22 |
| CER ↓ |
内容 |
Paraformer-zh |
| SECS ↑ |
音色(与输入说话人的相似度) |
WavLM-base-plus-sv |
| 配对差 vs λ=1 |
同一条音频两模型之差,配对 t 检验 |
— |
4 产物与结果
m22_gen.py → m21_score.py / m21_ra.py → m22_analyze.py → outputs/m22_eval/analysis.json(n = 160/格)
RA(情感强度)
| λ |
α=0 |
α=0.5 |
α=1 |
α=1.5 |
| 0 |
0.008 |
0.651 |
1.126 |
1.639 |
| 1(主线) |
0.080 |
0.646 |
1.041 |
1.548 |
| 2 |
0.166 |
0.681 |
1.066 |
1.492 |
| 5 |
0.213 |
0.669 |
0.946 |
1.245 |
| 真实录音锚点 |
中立 0.08 |
— |
情感 1.03 |
— |
UTMOS(音质)
| λ |
α=0 |
α=0.5 |
α=1 |
α=1.5 |
| 0 |
1.93 |
1.61 |
2.68 |
2.47 |
| 1 |
1.91 |
1.60 |
2.29 |
2.07 |
| 2 |
2.01 |
1.61 |
2.31 |
2.09 |
| 5 |
2.12 |
1.62 |
2.27 |
2.23 |
CER(内容)
| λ |
α=0 |
α=0.5 |
α=1 |
α=1.5 |
| 0 |
0.380 |
0.099 |
0.057 |
0.059 |
| 1 |
0.331 |
0.087 |
0.073 |
0.074 |
| 2 |
0.327 |
0.096 |
0.074 |
0.080 |
| 5 |
0.313 |
0.095 |
0.069 |
0.083 |
SECS(音色)
| λ |
α=0 |
α=0.5 |
α=1 |
α=1.5 |
| 0 |
0.857 |
0.899 |
0.928 |
0.915 |
| 1 |
0.880 |
0.898 |
0.921 |
0.912 |
| 2 |
0.871 |
0.892 |
0.912 |
0.903 |
| 5 |
0.887 |
0.897 |
0.918 |
0.913 |
同条配对差 vs λ=1(正 = 该 λ 更好,CER 除外)
| 比较 |
RA |
UTMOS |
CER |
SECS |
| λ=0 @α=0.5 |
+0.005 (p=0.79) |
+0.01 (p=0.41) |
+0.01 (p=0.20) |
+0.00 (p=0.66) |
| λ=0 @α=1 |
+0.084 (p=2e-5) |
+0.393 (p=2e-35) |
−0.015 (p=0.002) |
+0.008 (p=0.002) |
| λ=2 @α=0.5 |
+0.035 (p=0.17) |
+0.01 (p=0.23) |
+0.01 (p=0.21) |
−0.006 (p=0.11) |
| λ=2 @α=1 |
+0.025 (p=0.24) |
+0.02 (p=0.39) |
+0.00 (p=0.80) |
−0.008 (p=0.06) |
| λ=5 @α=0.5 |
+0.023 (p=0.37) |
+0.02 (p=0.11) |
+0.01 (p=0.27) |
−0.001 (p=0.63) |
| λ=5 @α=1 |
−0.095 (p=4e-9) |
−0.02 (p=0.38) |
−0.00 (p=0.48) |
−0.003 (p=0.18) |
5 结论
- 中段与 λ 无关:α=0.5 处四条 λ 的四个指标全部无显著差异(RA 0.65–0.68,p ≥ 0.17;UTMOS 1.60–1.62)。中段谷是推理端的问题,训练正则解决不了——这支持把中段交给音高对齐混合。
- λ 只改两端,且 λ=0 在情感端全面最好:α=1 处 λ=0 比 λ=1 的 UTMOS +0.39、RA +0.08、CER −0.015、SECS +0.008,四项同时显著。
- λ 大只在 α=0 那一格有好处(UTMOS +0.21、CER −0.07、SECS +0.007),代价是 α≥1 的旋钮被压扁(λ=5 的 RA@1 −0.095,RA@1.5 从 1.64 掉到 1.25)。
- 主线仍为 λ=1(M20@420k)。λ=0 是否续训到 420k 与之同口径对比,待定。