Add causal oracle person information screen

This commit is contained in:
Xin Wang
2026-09-07 08:41:34 +08:00
parent fb22108c57
commit ecf00185f1
17 changed files with 1364 additions and 20 deletions
+26
View File
@@ -0,0 +1,26 @@
# Advancing Active Speaker Detection for Egocentric Videos(EgoASD)
- 作者:Jaesung Huh、Juan Azcarreta Ortiz、Anurag Kumar、Ashutosh Pandey、Ali Aroudi、Daniel D. E. Wong、Francesco Nesta、Buye Xu、Jacob Donley
- 发表:ICASSP 2025
- 阅读深度:摘要、方法贡献和 EasyCom 结果筛选;未运行
- 记录日期:2026-09-07
- 来源:[IEEE Xplore](https://ieeexplore.ieee.org/document/10888166/)、[DOI](https://doi.org/10.1109/ICASSP49660.2025.10888166)
## 摘要与项目关系
该工作针对第一视角视频中快速头动、运动模糊和视觉质量不稳定的问题,提出固定嘴部区域与
motion-blur augmentation,并将它们用于一个轻量、因果的音视频 active speaker detector。
论文报告 EgoASD 在 EasyCom 上比此前结果提高 1.7 个 mAP 点,同时模型规模约小 2.5 倍,
并进一步用于第一视角音视频 diarization。
它直接说明:EasyCom 的逐人视觉分支不能只依赖通用图像语义或稀疏静态人脸 embedding;嘴部
局部运动、短时音唇同步、运动模糊鲁棒性和因果 temporal context 都是更合理的 active-speaker
证据。若本项目最终声称人物视觉 grounding 有效,应把 EgoASD 或同等级 causal ASD feature
作为专用视觉前端基线/候选,而不能只和普通 Qwen face-crop pooling 比较。
## 适用边界
EgoASD 预测画面中候选人物当前是否发声,不预测不可见 wearer 未来是否进入或让出 floor。
因此它可以提供逐人 active-speaker evidence 或 oracle 的可学习替代,但不能直接替代本项目的
wearer floor-action head 和事件级评测。论文报告的 ASD mAP 也不能与本项目 0.2--2.0 秒未来
活动 mAP 直接比较。
@@ -0,0 +1,28 @@
# Speaker Embedding Informed Audiovisual Active Speaker Detection for Egocentric Recordings
- 作者:Jason Clarke、Yoshihiko Gotoh、Stefan Goetze
- 发表:ICASSP 2025
- 阅读深度:摘要、方法和实验设置重点阅读;未运行
- 记录日期:2026-09-07
- 来源:[IEEE Xplore](https://ieeexplore.ieee.org/document/10890414/)、[arXiv](https://arxiv.org/abs/2502.06012)、[作者公开论文](https://eprints.whiterose.ac.uk/id/eprint/223485/1/Jason_ICASSP_2025.pdf)
## 摘要与项目关系
该工作研究第一视角场景中候选人物的音视频 active speaker detection。作者提出 Speaker
Comparison Auxiliary Network(SCAN):除候选人的参考语音 embedding 外,还从当前混合
音频的滑动窗口提取 speaker embedding,再通过 cross-attention 比较当前声音和已登记身份。
论文同时提出自监督的 video face recognition 调优方法,用于构建更稳健的 face--speaker
身份库。SCAN 接入 TalkNet 和 Light-ASD 后,在 Ego4D-AVD 上分别报告 14.5% 和 10.3% 的
相对 mAP 提升。
它说明显式 speaker reference/identity memory 在视觉遮挡或嘴部线索不可用时已有明确先例。
因此本项目不应把“用 track identity 帮助音视频说话者判断”本身作为 novelty。更合适的限定是:
人物轨迹保持匿名,不依赖预登记语音或长期身份库,只使用截止当前时刻可获得的因果轨迹,
目标是预测不可见 wearer 的未来 entry/yield 行为。
## 适用边界
SCAN 需要候选人的预分离参考语音并建立 face--speaker library;这与本项目计划的在线、匿名、
无 enrollment 场景不同。它仍然做当前逐人物 ASD,不评估 wearer 的未来错误开口、响应延迟
或 yield。若以后引入 speaker embedding,必须单列 enrollment 依赖,并确保参考语音只来自
预测截止时间之前,不能从整段视频或测试片段未来部分建立身份库。
+9 -1
View File
@@ -2,7 +2,13 @@
本目录持久化记录我们在本项目讨论中实际阅读、分析或筛选过的论文。这里的“摘要”均为面向当前课题的中文转述,不是原文摘要的复制。
最后更新:2026-08-30
最后更新:2026-09-07
最新增补:两篇 ICASSP 2025 第一视角 ASD 工作进一步约束当前视觉方案。
[EgoASD](54_egoasd.md)表明 EasyCom 局部视觉需要认真处理嘴部运动、运动模糊和因果时序,
而不只是静态人脸语义;[speaker-embedding-informed ASD](55_speaker_embedding_egocentric_asd.md)
说明显式身份/参考语音 memory 已有先例。当前更可辩护的方向是匿名、无需 enrollment 的逐人
因果证据,并验证它是否改变不可见 wearer 的未来 entry/yield 行为。
最新专题:[多方第一视角 AV wearer floor-state prediction 文献 gap 审计](../docs/multiparty_egocentric_floor_gap_audit_2026-08-30.md)。结论是宽泛组件均有先例;仍可信的交集是单 wearer 严格因果流、不可见 wearer 的 entry/yield、逐人 grounding 和事件级评测。MuVAP、EgoSpeak、3M-Transformer、AV-CONV 与在线多方 EOT 必须正面区分。
@@ -75,6 +81,8 @@
| 51 | [Online Multimodal End-of-Turn Prediction](51_online_multiparty_eot.md) | 2024 | 任务、采集、方法和局限重点阅读 | ICMI;在线三方 EOT,但依赖实验室 gaze/mocap/独立麦克风 |
| 52 | [TurnBench](52_turnbench.md) | 2026 | 任务、因果提交和 leaderboard 重点阅读 | 双人音频事件评测;recall/FPR/latency 范式 |
| 53 | [AMusE](53_amuse.md) | 2026 | 摘要及官方论文页筛选 | CVPR;MLLM 多说话人身份、角色和 AV grounding 短板 |
| 54 | [Advancing Active Speaker Detection for Egocentric Videos(EgoASD)](54_egoasd.md) | 2025 | 摘要、方法贡献和 EasyCom 结果筛选 | ICASSP;因果 egocentric ASD、固定嘴部区域及运动模糊增强 |
| 55 | [Speaker Embedding Informed Audiovisual Active Speaker Detection](55_speaker_embedding_egocentric_asd.md) | 2025 | 摘要、方法和实验设置重点阅读 | ICASSP;参考语音身份、SCAN 与第一视角 ASD,约束 identity-memory novelty |
## 当前综合判断