腾讯混元发布并开源新一代大语言模型 Hy4 preview,总参数 770B、激活参数 49B,上下文长度突破 1M,在代码、办公、科学等真实生产力任务上展现出卓越能力。Hy4 preview 在模型尺寸、上下文长度、数据规模上都进行了显著扩展,预训练和后训练的共同进步带来了智能水平的又一次巨大提升,稳居开源模型第一梯队。该模型定位为”为生产力而生”,通过与软件工程、游戏、金融、安全等腾讯专家的高质量数据共建,以及与 WorkBuddy 等产品的深度协同,模型在各类真实生产力任务上取得显著进步。

