今日,我们发布了 Granite Speech 系列中的两款新模型:紧凑型 470M 参数英语语音识别模型,兼具高准确率与前所未有的速度 —— 在 NVIDIA H200 GPU 上,批处理推理速度超过 12,600 RTFx,即每秒可转录超过 3.5 小时的语音。与先前包含声学编码器、投影仪和带 LoRA 适配器的 Granite LM 的模型不同,新模型采用纯编码器设计,提供强大的转录性能、仅 470M 参数的小内存占用,且吞吐量比之前的 Granite Speech 模型快 20 倍以上。

