NeurIPS 2026|扩散模型和自回归模型谁的隐私泄露更多?随着扩散语言模型走向更大规模,一个问题也随之出现:当模型不再从左到右逐词生成,它还会以同样的方式泄露训练数据吗?在论文设定的个人信息补全任务中,扩散模型的泄露水平低于同规模自回归模型,但生成步骤越细,原样复现训练内容的概率往往越高。
NeurIPS 2026|扩散模型和自回归模型谁的隐私泄露更多?随着扩散语言模型走向更大规模,一个问题也随之出现:当模型不再从左到右逐词生成,它还会以同样的方式泄露训练数据吗?在论文设定的个人信息补全任务中,扩散模型的泄露水平低于同规模自回归模型,但生成步骤越细,原样复现训练内容的概率往往越高。