大模型的越狱能力,能否蒸馏给小模型?

有没有可能像知识蒸馏一样,让大模型把自己掌握的越狱攻击能力教给小模型,以后只需要运行一个上亿参数的轻量模型,就能生成有效的越狱提示词。

原文连接