月之暗面 Kimi 发布技术报告,对大模型的核心结构残差连接行重新设计,使每一层能够选择性地关注此前各层输出,而非统一求和,48B 模型训练效率提升 1.25 倍 … 报告结尾处显示,月之暗面三位联合创始人杨植麟、吴育昕、周昕宇带领数十名研究员完成了这项研究 … 报告发布后,马斯克评价 Kimi 的研究令人印象深刻(Impressive work from Kimi),OpenAI 的「推理模型之父」、前 OpenAI 研究副总裁 Jerry Tworek 则表示「深度学习 2.0 要来了」。
暂无讨论,说说你的看法吧

