月之暗面 Kimi 发布技术报告，对大模型十年没有变化的核心结构残差连接行重新设计，使每一层能够选择性地关注此前各层输出，而非统一求和，48B 模型训练效率提升 1.25 倍，被行业解读为提前预告了下一代模型的关键模块 … 月之暗面三位联合创始人杨植麟、吴育昕、周昕宇带领数十名研究员完成了这项研究 … 论文发布后，马斯克评价 Kimi 的研究令人印象深刻，前 OpenAI 研究科学家 Andrej Karpathy 表示该研究真正践行了「Attention is All You Need」的理念，推理之父、前 OpenAI 研究副总裁 Jerry Tworek 认为，深度学习 2.0 来了。
暂无讨论，说说你的看法吧