国内，AI 参与 AI 研发的实践也在密集出现，而且切入的环节各不相同：面壁用 AI 编写预训练框架，智谱让 AI 搭建国产芯片上的推理基础设施…… 稀疏注意力训练，3T tokens：切换到稀疏注意力，进行大规模继续预训练（也就是中训练），让模型适应新的信息读取方式，同时重点强化编程和 AI 研发能力…… 全球领先的人工智能公司依靠庞大的专家团队分工协作，支撑这套体系的运转，覆盖模型架构、基础设施、训练、推理、部署与评测等环节，每个前沿模型背后都是持续不断的实验、迭代与优化循环。
国内，AI 参与 AI 研发的实践也在密集出现，而且切入的环节各不相同：面壁用 AI 编写预训练框架，智谱让 AI 搭建国产芯片上的推理基础设施…… 稀疏注意力训练，3T tokens：切换到稀疏注意力，进行大规模继续预训练（也就是中训练），让模型适应新的信息读取方式，同时重点强化编程和 AI 研发能力…… 全球领先的人工智能公司依靠庞大的专家团队分工协作，支撑这套体系的运转，覆盖模型架构、基础设施、训练、推理、部署与评测等环节，每个前沿模型背后都是持续不断的实验、迭代与优化循环。