三星电子副总裁、Memory 事业部首席技术官 Kevin Yoon 做了一个简单换算：中国每天消耗的 Token，是中国国家图书馆全部藏书对应 Token 量的 20 倍以上，也接近人类历史上所有出版图书总量的 6 倍。结合存储与计算单元之间的距离，闪迪资深产品市场总监张丹将 SSD 拆成三类：直接连接 GPU 的 SSD 主要承接热 KV 等高频访问数据，为计算持续”备料”。针对 MoE 模型参数，当前需要调用的专家权重留在 CPU 内存和 GPU 显存中，暂时不会被调用的权重则放入 SSD。