在此前的 DeepSeek V4 论文作者列表中，我们发现了清华大学 2021 级博士生、2025 年研究生特等奖学金获得者顾煜贤（Yuxian Gu）的名字 … 在更早的 2024 年，顾煜贤及其合作者提出了一种将大语言模型蒸馏为更小语言模型的知识蒸馏方法，首先利用反向 Kullback-Leibler 散度（KLD）替代标准知识蒸馏方法中的正向 KLD 目标，随后推导出一种有效的优化方法来学习这一目标 … 我们也期待顾煜贤在人生的下一段”DeepSeek”中，带来更多新的成果。
在此前的 DeepSeek V4 论文作者列表中，我们发现了清华大学 2021 级博士生、2025 年研究生特等奖学金获得者顾煜贤（Yuxian Gu）的名字 … 在更早的 2024 年，顾煜贤及其合作者提出了一种将大语言模型蒸馏为更小语言模型的知识蒸馏方法，首先利用反向 Kullback-Leibler 散度（KLD）替代标准知识蒸馏方法中的正向 KLD 目标，随后推导出一种有效的优化方法来学习这一目标 … 我们也期待顾煜贤在人生的下一段”DeepSeek”中，带来更多新的成果。