近日有玩家在社区分享了一次极具极客精神的极限测试:他仅凭一台没有插显卡、搭载 40 核处理器的老旧服务器,竟然成功让月之暗面的 2.8 万亿参数大模型 Kimi K3 运行了起来。作为一款体量庞大的混合专家模型,Kimi K3 的总参数量达到了 2.8 万亿,每个 token 仅激活约 1040 亿参数,官方标称的上下文更是高达 104 万 token。英伟达早在 2022 年第二季度便启动了傲腾内存业务的收缩,当季度计入了 5.59 亿美元的库存减值,这也意味着该产品线已经没有后续的下一代产品,这次硬核运行更像是一次面向极限边缘的极客致敬与可行性验证。

