OpenAI 公布了首款自研 AI 推理芯片 Jalapeño 的首批性能测试结果。Jalapeño 是 OpenAI 第一款自研推理芯片，主要针对大语言模型推理设计。在推理架构上，Jalapeño 由同一套加速器完成 prefill 和 decode 两个阶段，即既负责处理用户输入，也负责后续逐个生成 token，而不是分别交给不同类型的芯片。
OpenAI 公布了首款自研 AI 推理芯片 Jalapeño 的首批性能测试结果。Jalapeño 是 OpenAI 第一款自研推理芯片，主要针对大语言模型推理设计。在推理架构上，Jalapeño 由同一套加速器完成 prefill 和 decode 两个阶段，即既负责处理用户输入，也负责后续逐个生成 token，而不是分别交给不同类型的芯片。