今日凌晨，在英伟达 GTC 大会上，月之暗面创始人 ** 杨植麟 ** 作为本届唯一受邀现场演讲的中国独立大模型公司创始人，发表题为《How We Scaled Kimi K2.5》的演讲，** 首次完整披露 Kimi K2.5 背后的技术路线图 ** … 而在这次 GTC 演讲中，杨植麟将这项研究放回 Kimi 更完整的技术框架中，给出了一张更系统的「路线图」… 杨植麟也指出，在将 Muon 扩展至万亿参数规模的 K2 模型训练过程中，Kimi 团队遇到了稳定性问题：训练中出现 Logits 爆炸，最大值迅速超过 1000，导致模型发散。
暂无讨论，说说你的看法吧