月之暗面 Kimi 团队提出 Attention Residuals (AttnRes) 架构,重新定义深度学习残差连接新范式

中国 AI 初创企业月之暗面(Moonshot AI)旗下 Kimi 团队发布了重磅技术论文《Attention Residuals: Rethinking depth-wise aggregation》,提出了一项名为 Attention Residuals(注意力残差,简称 AttnRes)的全新深度网络架构组件。

原文连接

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧