Pplx-embed-v2-late 突破了传统稠密模型的”单向量瓶颈”,为每个 token 保留一个 128 维向量,检索时用 MaxSim 打分(每个查询 token 找到最优的文档 token,再累加这些最大值)。模型基于 Qwen3.5 与双向注意力训练,两者均由内部 18B ColBERT 教师模型通过 token 级 LEAF 风格蒸馏而来,这正是二者共享嵌入空间的来源。Perplexity 表示,0.6B 模型在 ViDoRe V3 上可匹敌约 5 倍活跃参数量的同类模型。
Pplx-embed-v2-late 突破了传统稠密模型的”单向量瓶颈”,为每个 token 保留一个 128 维向量,检索时用 MaxSim 打分(每个查询 token 找到最优的文档 token,再累加这些最大值)。模型基于 Qwen3.5 与双向注意力训练,两者均由内部 18B ColBERT 教师模型通过 token 级 LEAF 风格蒸馏而来,这正是二者共享嵌入空间的来源。Perplexity 表示,0.6B 模型在 ViDoRe V3 上可匹敌约 5 倍活跃参数量的同类模型。