该系列采用三元权重表示法,以 {-1, 0,+1} 编码参数,存储占用分别约为 0.43GB、0.95GB 和 2GB,较全精度版本缩小 9 倍以上。官方称模型在推理、视觉理解、工具调用和指令遵循方面均有提升,其中 9B 模型在标准指令和日常数学任务中可减少约 40% 的 token 消耗。在 iPhone 18 Pro Max 上,9B 模型最高可达每秒 34 个词元,2B 模型最高可达每秒 120 个词元。
该系列采用三元权重表示法,以 {-1, 0,+1} 编码参数,存储占用分别约为 0.43GB、0.95GB 和 2GB,较全精度版本缩小 9 倍以上。官方称模型在推理、视觉理解、工具调用和指令遵循方面均有提升,其中 9B 模型在标准指令和日常数学任务中可减少约 40% 的 token 消耗。在 iPhone 18 Pro Max 上,9B 模型最高可达每秒 34 个词元,2B 模型最高可达每秒 120 个词元。