19 lines
1.3 KiB
Markdown
19 lines
1.3 KiB
Markdown
|
# Temporal Contrastive Decoding: A Training-Free Method for Large Audio-Language Models
|
||
|
|
|
||
|
|
- 简称：TCD
|
||
|
|
- 作者：Yanda Li、Yuhan Liu、Zirui Song、Yunchao Wei、Martin Takáč、Salem Lahlou
|
||
|
|
- 会议：ACL **Findings** 2026
|
||
|
|
- 阅读深度：重点章节阅读（方法、架构适用性及开销附录）；未复现
|
||
|
|
- 记录日期：2026-08-28
|
||
|
|
- 来源：[ACL 论文页](https://aclanthology.org/2026.findings-acl.733/)、[正文](https://aclanthology.org/2026.findings-acl.733.pdf)
|
||
|
|
|
||
|
|
## 摘要（中文转述）
|
||
|
|
|
||
|
|
统一音频语言模型可能偏向平滑的上下文而弱化瞬态声学信息。TCD 对原音频和平滑后的音频分别编码，用两条路径的词表 logits 差异进行有门控的局部解码修正，无需更新模型参数。实验包含 Qwen2.5-Omni；适用性分析强调 decoder 应能访问有时间结构的音频序列。
|
||
|
|
|
||
|
|
## 本项目的启发与边界
|
||
|
|
|
||
|
|
先保留近期未池化音频 token，检验 Thinker 是否使用起音/停顿线索，是比直接放大 pooled A 更明确的假设。
|
||
|
|
|
||
|
|
原法修改生成词概率，不是 2048D hidden state。直接对 hidden state 做相减不是复现；音频平滑和两路前向也有额外开销。若在流式场景迁移，只可在已观测前缀内构造对比音频。QA 诊断可以参考原方法，wearer 事件预测需另做实验。
|