上海交大00后团队融资数千万，让Agent做定制的自进化推理引擎

随着研究的逐步深入，在算子之上，他们看到了一个更大的空白——算力消耗的主战场正在从训练转向推理，在推理侧还存在着大量的性能释放空间，而一套通用的推理引擎，很难为每一块芯片、每一个模型都调到最好。海外也已经出现了类似的探索：一家由前英伟达杰出工程师创办的、名为INT21的初创公司，正在用成群的智能体直接生成整套推理引擎，从算子一直做到服务层。基于论文成果和在推理侧的思考，今年七月，他们正式开启了创业，要做的正是让AI自己迭代推理引擎。简单来看，就是针对每一个“某个模型、在某块卡上、按某种要求运行”的特定组合，让Agent自己去优化推理引擎，提高硬件利用率和Token生产效率。