刚刚，蚂蚁百灵大模型开源轻量级混合推理MoE模型——Ling-3.0-tiny。

今日，蚂蚁百灵大模型开源了一款轻量级混合推理MoE模型——Ling-3.0-tiny。该模型的关键要点总结如下： 1、高效的混合线性架构：Ling-3.0-tiny采用月之暗面自研的KDA（Kimi增量注意力）与DeepSeek自研的MLA（多头潜在注意力）的3:1 交替堆叠结构，并配备由128个路由专家组成的稀疏MoE前馈网络，构建起高效的混合线性架构。2、原生混合推理与智能体能力：Ling-3.0-tiny兼顾快速响应与多步推理能力，可通过enable_thinking参数在单次请求中灵活开启或关闭思考模式。