伊利诺伊大学厄巴纳—香槟分校、卡内基梅隆大学、哥伦比亚大学等机构的研究人员最新提出的综述提出了连接全模态智能与交互能力的统一概念框架,系统梳理从流式表征、模型架构、训练方法到实时部署与评测的技术链路,并进一步总结智能与交互之间的关键权衡及未来研究方向。图 1|综述共总结了 349 篇工作,提出统一概念框架,将全模态智能与交互能力作为两个相互关联的组成部分,串联表示、架构、训练、部署与评测。针对现有评测难以同时衡量回答质量与交互行为的问题,综述从延迟、时机质量、内容质量、鲁棒性、长会话质量和修复能力六个维度系统整理了现有评测方法,强调需要在可比较的交互场景与资源预算下,同时衡量智能水平与交互表现。

