给 AI 装上记忆,它就真的记对了吗?HaluMem 拆解智能体记忆幻觉

中国电信研究院与上海记忆张量(MemTensor)公司等研究者围绕这一问题提出了 HaluMem:首个面向智能体记忆系统的操作级幻觉评测基准。它将评测深入到记忆提取、记忆更新和记忆问答三个环节,追踪错误究竟在哪里产生,以及如何影响后续回答。HaluMem 用虚假记忆抵抗能力(False Memory Resistance,FMR)衡量系统能否忽略那些由助手提及、却未经用户确认的干扰记忆。

原文连接