Yuan3.0 Ultra 多模态基础大模型开源

作为源 3.0 系列面向万亿参数规模打造的旗舰模型,成为当前业界仅有的三个万亿级开源多模态大模型之一 … Yuan3.0 Ultra 采用统一多模态模型架构,由视觉编码器、语言主干网络与多模态对齐模块组成,实现视觉与语言信息的协同建模 … 模型还引入了 Localized Filtering Attention(LFA)机制,有效强化对语义关系的建模能力,相比经典 Attention 结构可获得更高的模型精度表现。

原文连接

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧