Record speaker-aware AV research and literature

This commit is contained in:
Xin Wang
2026-08-30 15:36:28 +08:00
parent 4abbde4f52
commit 348c5c3343
29 changed files with 907 additions and 6 deletions
+2
View File
@@ -17,3 +17,5 @@ EgoAVU 用数据生成与筛选流程,将第一视角视频中的音频和视
## 适用边界
其任务主要是理解与问答,并非多人轮次预测;大规模指令数据上的微调收益不保证迁移到小规模 EasyCom。由此提出的局部 LoRA、模态 dropout 等是我们的候选控制,而非本次阅读已验证的原作训练结论。
2026-08-28 核查:[官方 Training 说明](https://github.com/facebookresearch/EgoAVU#training)提供既有 Qwen2.5-Omni 的 LoRA / full SFT 配置。不能将这项工作解读为“已经证明必须额外增加一个模态连接层”。先检验输入组织和冻结模型的局部证据利用,再决定是否需要训练新模块。