今天分享厦门大学与吉林大学最新的Agent Memory工作**智能体谄媚现象Agent Sycophancy[开小灶也没赢DOPD 跑完一轮我把传统AI蒸馏换掉了]MemSyco-Bench: Benchmarking Sycophancy in Agent Memory一句话总结当 Agent 开始拥有长期记忆它不仅变得更懂你也更容易被过去的你带偏。长期记忆正在改变 Agent 的本质随着大模型 Agent 逐渐具备长期记忆能力系统可以跨会话持续积累并调用用户偏好、历史行为、长期任务和过往认知使 Agent 从“单轮问答助手”演进为真正意义上的“长期协作者”。从 ChatGPT Memory、Claude Memory到 MemoryBank、Mem0、LightMem、SuperMemory 等系统Memory 正在成为 Agent 架构中的关键模块。但问题也随之出现当 Agent 记住一切它是否还会独立思考图1Memory 机制会把当前对话中的谄媚扩展为跨会话、可持续的长期影响。上图展示了核心痛点传统谄媚通常发生在当前对话中但在长期记忆 Agent 中用户过去的错误认知会被写入 Memory并在未来被重新检索出来导致模型在客观问题上继续顺从历史记忆。一个被忽视的新风险Memory-Induced SycophancyLLM 本身存在Sycophancy谄媚现象模型可能为了迎合用户观点、偏好或预期牺牲事实准确性、独立判断和客观推理。进入 Agent 时代后Memory 机制会进一步放大这一问题。用户过去的错误信念、过期偏好或局部经验可能被长期记忆系统保存下来并在未来任务中再次检索出来持续影响 Agent 的回答。记忆诱发的谄媚实例我们将这一现象定义为Memory-Induced Sycophancy记忆诱发的谄媚行为也就是说Agent 会过度依赖历史记忆即使这些记忆是错误的、过时的或不适用于当前任务也会在后续推理中继续“迎合用户”。我们做了什么MemSyco-Bench图2MemSyco-Bench 的五类任务分类覆盖“记忆不应影响决策”和“记忆应被正确使用”两类关键边界。为了解决这个问题我们提出MemSyco-Bench一个系统性评测 Agent Memory 谄媚行为的 benchmark。它不再只问有没有记住有没有检索到而是进一步追问这段记忆到底该不该被用来影响当前决策为此MemSyco-Bench 将 Agent Memory 的使用边界分成两大类一类是Memory should not replace objective evidence要求模型在事实判断、范围变化和证据冲突中抑制或约束记忆影响另一类是Memory should be selected and used appropriately要求模型在偏好更新和个性化任务中选择并使用当前有效记忆。Benchmark 三大核心设计图3MemSyco-Bench 通过 memory-decision schema 构造自然多轮记忆评测样本。1. 决策导向评测。MemSyco-Bench 重点评估Memory Utilization而不是单纯的Memory Retrieval看模型是否会盲信记忆。2. 五类关键场景覆盖。Benchmark 覆盖客观事实判断、上下文范围控制、记忆-证据冲突、有效记忆选择和个性化记忆使用精准刻画记忆使用边界。3. 真实记忆决策构建方式。我们通过 memory-decision schema 构造多轮对话让记忆线索自然出现在历史交互中模拟真实 Agent 长期使用过程。我们发现了什么我们在 MemGPT、Mem0、LightMem、MemoryBank、SuperMemory 等多个主流 Memory Framework以及 Qwen、DeepSeek 等基础模型上进行了系统实验。发现一长期 Memory 并不会天然提升可靠性在客观事实任务中引入 Memory 后多数模型的准确率明显下降而 Memory-Induced Sycophancy 显著增加。例如在 Qwen3-8B 上无记忆设置下准确率为 49.12%而加入不同记忆系统后下降到 26.00%-36.00%在 DeepSeek-V4-Flash 上无记忆准确率为 74.33%加入记忆系统后下降到 56.33%-63.37%。表1主实验结果显示引入记忆后多个系统在事实判断中准确率下降、谄媚率上升。发现二大量错误不是没检索到而是检索后用错了很多错误并不来自“没检索到记忆”而是来自“已经召回 Memory但模型赋予了它过高的决策权重”。换句话说Memory 已经找到了但 Agent 不知道该不该相信它。图4错误归因显示许多失败发生在相关记忆已经被检索出来之后。发现三记忆系统需要处理更细粒度的使用边界在证据冲突场景中Agent 需要知道当前证据应优先于历史偏好在记忆更新场景中Agent 需要知道旧偏好不能继续支配新任务。表2场景诊断显示冲突证据和新旧记忆同时出现时模型经常无法正确仲裁。发现四Prompt Engineering 难以解决使用精心设计的提示词无法缓解 Memory-Induced Sycophancy一句 “Are you sure?” 二次确认甚至可能强化已经被记忆塑形的答案。图5简单行为提示并不能稳定解决记忆诱发谄媚部分设置下还会显著降低表现。核心结论Agent Memory 的关键瓶颈正在从Memory Retrieval能不能找回转向Memory Utilization该不该相信可靠的 Agent 不应该只是记住用户说过什么更应该知道哪些记忆仍然有效哪些记忆已经过时哪些记忆只能作为背景哪些记忆可以真正参与决策。Memory 不应该成为偏见的放大器而应该成为可信推理的支撑。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
