MemTrapBench 测试 LLM 使用记忆时的认知陷阱

研究人员推出了 MemTrapBench，用于评估检索到的记忆如何影响大语言模型在当前任务中的推理。该基准聚焦两类失效模式：推理固着和信念扭曲。在这些情况下，忠实记录且语义相关的记忆也可能扭曲推理或信念。研究覆盖两个模型家族和五种记忆框架，结果显示，所有被评估的记忆策略表现都不如无记忆设置，即使最强方法的性能降幅也超过 10%。作者还提出了 AdaptiveMem，这是一种推理时方法，旨在减少由记忆引发的这些陷阱。