AI开始给自己写代码了!GPT-5.6重写内核,服务成本直降20%

它自主重写、优化了OpenAI线上那套底层代码,也就是真正负责跑模型的生产GPU内核。用OpenAI总裁Greg Brockman的话说:让GPT-5.6 Sol去提升生产服务效率,正是它又强又便宜的原因之一。GPT-5.6 Sol通过Codex,接进了OpenAI的生产推理栈,碰的全是推理栈里最核心的几块:GPU内核、负载均衡、推测解码、KV缓存。GPT-5.6在智能体框架、API编排、模型推理三层做优化,换来更少网络传输、更少CPU开销、更多GPU产出。

圈主 管理员

热门评论
:
该帖子评论已关闭
图片审查中...
编辑答案: 我的回答: 最多上传一张图片和一个附件
x
x