清华联合 NUS 发布大语言模型记忆机制综述:从计算副产物到核心架构维度

来自清华大学、新加坡国立大学与博世人工智能研究院的研究团队撰写了综述论文《Memory for Large Language Models》,首次从模型底层架构与计算机制的视角,对大语言模型中的记忆系统进行了系统性的梳理与解构,提出了涵盖表示形式、更新动力学和持久性三个正交维度的分类体系,并深入剖析了混合记忆架构的设计权衡、系统级效率优化及多维度评测范式 … 针对文献中对”记忆”一词指代模糊、抽象层次不一的问题,该综述明确将讨论范围限定在模型级(Model-level)记忆机制 —— 即在模型架构或其推理动力学内部实例化的记忆,排除了依赖外部编排流程或提示工程的纯智能体级系统 … 本综述提出的机制中心型分类体系与权衡分析,不仅厘清了当前碎片化的研究脉络,也为构建下一代高扩展、高可塑与自主进化的大模型记忆架构提供了系统性的方法论参考。

原文连接