小米大模型推理速度全球最快！1000 tokens/s是啥概念

这是全球首个在通用GPU上突破1000 tokens/s的万亿参数模型，刷新了旗舰模型的全球最快推理速度。

小米此次上线的UltraSpeed模式，输出速度达到1000 TPS，是人眼阅读速度的约200倍，基本可以做到一眨眼生成一整页A4纸内容。