12 KiB
ICASSP 2027 文献笔记
本目录持久化记录我们在本项目讨论中实际阅读、分析或筛选过的论文。这里的“摘要”均为面向当前课题的中文转述，不是原文摘要的复制。
最后更新：2026-08-30
最新专题：多方第一视角 AV wearer floor-state prediction 文献 gap 审计。结论是宽泛组件均有先例；仍可信的交集是单 wearer 严格因果流、不可见 wearer 的 entry/yield、逐人 grounding 和事件级评测。MuVAP、EgoSpeak、3M-Transformer、AV-CONV 与在线多方 EOT 必须正面区分。
此前专题：可训练多人 AV 融合、8×L20 与 matched-recall 评测。新增 33–49：涵盖逐人时序融合、讲话对象、模型内适配器、模态竞争及专门 AV 编码器，区分正式发表、作者接收声明和未发布代码。计划尚未实施；文献已发表不代表迁移到本项目已有效。
同日此前专题：逐人 chunk、train-free Thinker 与 wearer onset/offset 计划。新增 28–32 五篇笔记，补读 16、23，核查 24 的实现边界。
此前专题：多人 AV、多速率流式处理与四条实验路线。保留其当时判断，不用新结果改写历史。
阅读深度
- 深入阅读：检查过方法、实验或附录，可用于设计实验和论证。
- 重点章节阅读：阅读过与当前问题直接相关的方法或实验部分。
- 摘要级筛选：主要依据摘要和论文主页判断相关性，只适合作为候选线索。
论文索引
| 编号 | 论文 | 年份 | 阅读深度 | 与当前项目的主要关系 |
|---|---|---|---|---|
| 01 | Qwen2.5-Omni Technical Report | 2025 | 深入阅读 | 原生流式多模态语义与 Thinker 状态 |
| 02 | EgoSpeak | 2025 | 深入阅读 | 任务定义、数据划分、标签和评测协议 |
| 03 | Long Short-Term Transformer for Online Action Detection | 2021 | 重点章节阅读 | 在线时序建模与 LSTR-MCE 基线 |
| 04 | MiniROAD | 2023 | 重点章节阅读 | 在线检测、时间步损失与高效递归建模 |
| 05 | ROMA | 2026 | 深入阅读 | 流式 AV 单元、持久 KV、Speak Head、末层融合 |
| 06 | DuplexPO | 2026 | 深入阅读 | 对话动态关键窗口和强化学习 |
| 07 | ASPIRin | 2026 | 深入阅读 | 将 RL 动作空间投影到 active/inactive |
| 08 | SoulX-Duplug | 2026 | 深入阅读 | 显式流式状态预测和低延迟监督学习 |
| 09 | SALMONN-omni | 2025 | 重点章节阅读 | 全双工对话、DPO 与策略训练稳定性 |
| 10 | Tempo-R0 | 2025 | 重点章节阅读 | 可验证的时间定位奖励和 GRPO |
| 11 | VideoTG-R1 | 2025 | 重点章节阅读 | 边界反思、样本筛选与课程 RL |
| 12 | TAR-TVG | 2025 | 摘要级筛选 | 时间戳锚点和分阶段时序推理训练 |
| 13 | Video-R2 | 2025 | 摘要级筛选 | 时间对齐奖励与视频推理一致性 |
| 14 | Prompt-Guided Turn-Taking Prediction | 2025 | 摘要级筛选 | 可控式轮次预测 |
| 15 | Multilingual Turn-taking Prediction Using VAP | 2024 | 摘要级筛选 | VAP、跨语言轮次线索与泛化 |
| 16 | Predicting Turn-Taking and Backchannel | 2025 | 重点章节阅读 | 多模态轮次与 backchannel 分类；双人词级协议 |
| 17 | Action Sensitivity Learning | 2023 | 摘要级筛选 | 边界敏感重加权，作为 RL 的低风险替代 |
| 18 | LLM-Enhanced Dialogue Management | 2025/2026 | 摘要级筛选 | 模块化流式对话控制状态 |
| 19 | Aligning Spoken Dialogue Models from User Interactions | 2025 | 摘要级筛选 | 从用户交互构造偏好数据 |
| 20 | Optimizing Conversational Quality with RLAIF | 2026 | 摘要级筛选 | 块级语音生成与多奖励偏好优化 |
| 21 | VideoLLM-online | 2024 | 摘要级筛选 | 流式训练目标、时间对齐与在线推理 |
| 22 | ProVideLLM | 2025 | 摘要及引言筛选 | 短期细粒度视觉与长期压缩记忆 |
| 23 | Multi-speaker Attention Alignment | 2026 | 重点章节阅读 | 说话人区域与话语对齐；原工作是视觉—文本设定 |
| 24 | EgoAVU | 2026 | 摘要及官方实现说明筛选 | 第一视角 AV 对应关系、模态偏置与任务适配 |
| 25 | Egocentric Deep Multi-Channel AV Active Speaker Localization | 2022 | 摘要及引言筛选 | 佩戴者、可见及画外说话人的活动与位置 |
| 26 | Egocentric Auditory Attention Localization in Conversations | 2023 | 摘要及引言筛选 | 区分谁在说话与佩戴者在听谁 |
| 27 | OmniMMI | 2025 | 摘要级筛选 | 主动流式交互评测与多模态复用 |
| 28 | AV-SpeakerBench / See, Hear, and Understand | 2026 | 摘要及任务设计筛选 | CVPR Findings；检验真正依赖 AV 的逐人语音理解 |
| 29 | Temporal Contrastive Decoding | 2026 | 重点章节阅读 | ACL Findings；冻结模型对瞬态声学证据的解码干预 |
| 30 | ThinkOmni | 2026 | 重点章节阅读 | ICLR；文本推理模型指导 Omni 词表解码 |
| 31 | On the Structure of Address in Multi-Party Dialogue | 2026 | 重点章节阅读 | SIGDIAL；讲话对象的连续性及与听者行为的关系 |
| 32 | HeadRouter（音频 token 剪枝） | 2026 | 重点章节及官方实现说明阅读 | 作者宣布 ACM MM 接收；声学/语义 head 分工与校准 |
| 33 | MuVAP | 2026 | 重点方法、训练和评测阅读 | 单声道逐人因果预测；作者标注 Interspeech，代码待发布 |
| 34 | SICNet / Long-Term Social Interaction Context | 2024 | 重点章节阅读 | ICASSP；Ego4D talking-to-me 与提供的身份信息 |
| 35 | AV-Dialog | 2026 | 重点章节及训练附录阅读 | ACL 主会；目标人 AV 对话与大规模训练边界 |
| 36 | FLoRA for Device Directed Speech Detection | 2024 | 重点章节阅读 | Interspeech；模态适配和固定拒绝率误触发 |
| 37 | Whisper-Flamingo | 2024 | 重点章节及代码说明阅读 | Interspeech；强音频模型内的门控视觉增量 |
| 38 | LoCoNet | 2024 | 重点章节及代码说明阅读 | CVPR；人内时间、跨人互动，需改造成因果输入 |
| 39 | Gaze-Enhanced Triadic Turn-Taking | 2025 | 重点章节阅读 | Interspeech；ConvLSTM/人物 attention，额外传感器 |
| 40 | Triadic Multi-party VAP | 2025 | 重点章节阅读 | Interspeech；三人未来活动，但使用逐人麦克风 |
| 41 | Visual Cues Support Robust Turn-taking Prediction in Noise | 2025 | 重点章节阅读 | Interspeech；噪声分层、视觉鲁棒性与输入条件 |
| 42 | Attention Bottlenecks for Multimodal Fusion | 2021 | 重点章节阅读 | NeurIPS；有限 token 和融合位置 |
| 43 | LAVISH | 2023 | 方法段落及官方项目说明 | CVPR；冻结骨干的低成本 AV 适配 |
| 44 | Flamingo | 2022 | 摘要及方法片段筛选 | NeurIPS；内部 gated cross-attention 基础结构 |
| 45 | InfoReg | 2025 | 摘要、引言及代码发布核查 | CVPR；模态竞争候选，尚非本项目已诊断病因 |
| 46 | InfoBridge | 2025 | 摘要及引言筛选 | ICCV；保护模态独有的互补信息 |
| 47 | 3M-Transformer | 2024 | 摘要级筛选 | ICASSP；多视角 EgoCom，区别于单视角 EasyCom |
| 48 | VA-related Pretrained Encoders for MM-VAP | 2026 | 重点章节阅读 | 作者声明 RO-MAN 接收；LoRA 与窗口因果性审计 |
| 49 | Modality Drop-Out for DDSD | 2024 | 摘要及会议信息筛选 | ICASSP；缺失模态及固定工作点误接受率 |
| 50 | Audio-Visual Conversational Graph / AV-CONV | 2024 | 问题、输入和标注重点阅读 | CVPR；第一视角逐人 speaking/listening graph，但不是因果未来 wearer action |
| 51 | Online Multimodal End-of-Turn Prediction | 2024 | 任务、采集、方法和局限重点阅读 | ICMI；在线三方 EOT，但依赖实验室 gaze/mocap/独立麦克风 |
| 52 | TurnBench | 2026 | 任务、因果提交和 leaderboard 重点阅读 | 双人音频事件评测；recall/FPR/latency 范式 |
| 53 | AMusE | 2026 | 摘要及官方论文页筛选 | CVPR；MLLM 多说话人身份、角色和 AV grounding 短板 |
当前综合判断
2026-08-30 更新：宽泛的“多方 AV turn-taking”已被 MuVAP、3M-Transformer、在线多方 EOT 等工作覆盖；“第一视角 AV when-to-speak”已有 EgoSpeak，“逐人第一视角 speaking/listening” 已有 AV-CONV。当前可辩护定位是：单个严格因果第一视角流中，利用 speaker-grounded AV 预测不可见 wearer 自身的 floor entry 与 yield，并作事件级误触发/召回/延迟评价。 参见完整 gap 审计。gap 不替代方法贡献； 仍需证明逐人视觉在同 onset recall 下减少第三方交谈期间 false entry，并不损害真实 response。
2026-08-28 更新：encoder-only 完整结果显示近期音频与 Thinker 历史互补；普通视觉池化对 wearer 的增益尚不清楚。先补 wearer 专属事件及讲话对象分层，再对照逐人时序旁路和模型内可训练 adapter/LoRA。现有 R1/R2 是全活动变化，不是 wearer onset/offset 的直接评测。MuVAP 等工作使“逐人＋因果融合”不再足以单独构成创新；新假设是对不可见 wearer 的讲话对象条件化预测与受召回约束的第三方误开口降低。
以下为 2026-08-27 的阶段判断：
截至 2026-08-27，四状态/BCE 和 R1/R2 的活动预测增益较小；R1/R2 仅有两个已报告 seed，不能视作最终结论。最后四层读取有较大单次增益，但仍需匹配训练配置的多 seed 对照。参见损失消融、transition 消融和last-4 结果。
当前建议把资源优先投入以下四条待验证路线，而不是继续放大 transition loss 或直接转向通用 RL：
- 多速率近期/历史表征：保留块式 Omni 上下文，同时显式保留每 200 ms 更新的近期 AV 线索。
- 说话人感知对齐：从合并的 others 场景描述，走向按参与者组织的音视频证据。
- 分块稳定性：先测 chunk phase，再检验相位输入、分块偏移增强和严格因果教师蒸馏。
- 选择性适配：冻结骨干建立有效分支，再有限度调整连接层或上层 LoRA。
这些是本项目的研究假设，不是所引论文已在 EasyCom/Ego4D 接话预测上验证的结论。现有 open-stream 已经输出 5 Hz 状态；需要检验的是局部信息质量，而不是把已有 200 ms 更新误写为不存在。四状态表达 overlap，但不区分多个他人的身份。
维护约定
- 新增论文时，创建独立 Markdown 文件，并在本索引登记阅读深度。
- 若后来深入阅读过一篇摘要级论文，更新其阅读深度、方法细节和实验结论。
- 实验设计引用具体数值前，应再次核对论文正文、版本和官方实现。