如果一个大模型只能记住当前窗口里的内容它就很难真正成为长期陪伴用户的智能体用户之前说过的偏好可能被忘掉已经解决的问题可能被重复询问过去建立的事实也可能在下一次对话里被模型推翻给模型加上记忆并不是简单地把所有聊天记录存下来原始对话虽然信息最完整却充满了寒暄、重复表达、代词、省略和隐含上下文如果把这些内容全部交给检索系统记忆库很快就会变成一个巨大的噪声仓库如果过度压缩成摘要又可能丢掉回答问题所需的关键细节。这篇来自中国科学技术大学和安徽大学的论文提出了atommem名字里的atomic指的是“原子事实”它的核心想法是不要把整段对话当成记忆也不要把所有内容粗暴总结成一段摘要而是把对话拆成一条条独立、完整、可以单独检索的高价值事实。方法架构之间的对比比如用户说“hey zoe猜猜发生了什么我上周五第一次心理学考试拿了a”普通系统可能保存整句话也可能只留下“用户考试成绩很好”这样的模糊摘要而atommem希望抽取出一条可以脱离原文独立理解的事实emma在2023年5月12日也就是5月17日之前的那个星期五第一次心理学考试获得了a。这里有三个细节非常重要第一事实需要是完整的不能离开原对话就无法理解第二事实需要尽量高价值寒暄和客套话不应该进入长期记忆第三事实还要补齐原话中的代词和时间表达让“他”“那里”“上周五”变成明确的人、地点和日期原子事实不是简单摘抄而是一次面向记忆的轻量理解。论文提出方法的整体架构atommem的第一步由一个专门的fact executor完成它不是直接让通用大模型自由发挥而是用监督微调训练了一个事实抽取器论文中使用qwen3-14b并通过sft和lora进行训练让它学会从长对话里过滤低价值内容、解析指代、还原时间、改写成第三人称事实并最终以结构化格式输出。为了训练这个抽取器研究者还构建了一个面向对话事实提取的数据集训练样本要求模型忽略问候、感谢和无关回应识别隐含指代和因果关系把每一条事实写成完整、客观、独立的第三人称句子这个训练环节很关键因为如果最底层的记忆表示不可靠后面再复杂的事件组织和图检索都很难弥补。数据集示例不过atommem保存的并不只是事实文本每个原子事实还会附带一组结构化信息包括唯一标识、文本内容、向量表示、对话参与者、关键词、时间信息和关联事件这些字段让事实既能被语义检索也能被关键词、参与者和时间条件筛选。如果说原子事实负责保存“具体发生了什么”那么event memory负责保存“这些事实属于哪段经历”因为一条条事实虽然精确却可能彼此孤立用户在几次对话里分别提到旅行计划、订票和机场接送如果只看单条事实系统不一定知道它们共同属于“某次旅行”这个更大的事件。这个在论文的图二架构图里面也可以看上一张图左边看具体流程因此atommem会把逻辑上相关、时间上接近的事实组织成event每个event包含一段简洁摘要、事实编号集合、参与者、关键词和时间跨度新事实到来时系统会判断它应该加入已有事件、和某条孤立事实组成新事件还是独立保存这样原子事实提供细节event提供连续的经历背景。atommem还专门维护了一层temporal profile用来记录会随时间变化的用户状态例如用户的职业、居住地、偏好、习惯和背景信息这类信息不能只当作某次对话中的普通事实因为用户的状态可能会改变系统既要知道现在的状态也要保留过去的历史版本。profile不是每出现一句话就立即重写而是在一次对话结束后进行批量处理系统会把可能反映长期属性的候选事实放入队列再与已有profile比较判断它是重复信息、当前状态更新、历史版本修改还是一条全新的用户属性当当前profile发生变化时旧版本会被保存在历史记录里并记录相应的有效时间。举个例子用户先说自己在meta工作几个月后又说自己加入了google普通的追加式记忆可能同时保留两条信息atommem则会把google作为当前状态把meta保留为历史版本这样当用户问“我现在在哪里工作”时系统可以回答当前状态当用户问“我以前在哪里工作”时又能找回过去的版本变化不会覆盖历史历史也不会伪装成现在。接下来就是atommem最有特色的部分它不是只靠一次向量相似度来找记忆而是构建了一张由原子事实组成的关联记忆图图中的节点是事实节点之间有三种边分别是entity edge、event edge和temporal edge。entity edge表示两个事实之间存在关键词或实体上的联系比如它们都提到了同一个人、地点或主题event edge表示两个事实属于同一个事件即使两句话表面上没有相同关键词也可以通过共同的事件背景连起来temporal edge则表示两个事实在同一段对话中时间相近用来保留连续的叙事关系。当用户提出问题时atommem不会直接在全库里盲目搜索第一步是让大模型分析问题意图提取需要查询的参与者、关键词、时间范围以及是否需要用户画像第二步先通过参与者和时间条件筛掉明显不相关的事实再用语义相似度和关键词重合度选出初始事实。但直接检索仍然可能漏掉隐含关联所以系统还会从相关event中补充事实最后把这些初始事实作为种子在局部记忆图上进行random walk with restart让激活分数沿着实体、事件和时间边传播最终找到那些没有直接命中问题却和已找到事实存在重要关系的记忆。这条路径可以用一个具体场景理解用户问“我上次去夏威夷时买了什么”系统可能先找到“用户去夏威夷”的事实再通过同一事件边找到“在旅行中购买了贝壳项链”的事实最后把旅行事件背景、具体购买事实和用户画像一起交给回答模型它找回的不是孤立句子而是一小段被关系连接起来的经历。atommem的最终回答上下文由两类内容组成一类是和当前问题直接相关的episodic facts另一类是与用户长期状态相关的profiles前者回答“某件事具体发生了什么”后者帮助模型理解“这个用户通常是谁、现在处于什么状态”两者结合起来才能同时支持事实问答和个性化回答。论文在locomo基准上与locomo、memorybank、a-mem、mem0、memoryos和lightmem等方法进行了比较为了控制变量研究者统一使用gpt-4o-mini作为基础模型并将检索数量统一设置为10同时使用f1、bleu-1和llm-as-a-judge三类指标评估回答质量。结果显示atommem在single-hop、multi-hop、temporal和open-domain四类任务上都取得了最好的整体表现其中single-hop的f1为56.66multi-hop为42.50temporal为62.78open-domain的judge分数为64.58在需要跨多轮对话寻找线索的multi-hop任务上它尤其体现出了事件结构和关联记忆图的价值。和最强基线相比atommem在multi-hop任务上的judge分数达到68.44比lightmem的64.89高出约5.5%在temporal任务上的judge分数达到66.98比lightmem的51.09高出约31.1%这说明它不只是找到了表面相似的句子还能把分散在远距离对话中的相关事实重新连接起来。效率方面atommem也没有单纯用更大的上下文换取效果论文报告它相比mem0减少了约61.4%的总api token消耗原因是系统先把冗余对话压缩成高价值原子事实检索阶段不再让模型反复处理大量低价值文本这让它更接近一种可以实际部署的记忆方案。更有意思的是atommem-flat也就是去掉event、profile和graph等复杂模块只保留原子事实和基础检索的简化版本它在multi-hop任务上的f1从原始locomo的20.97提升到了37.03相对提升约76.6%而且总token消耗只有约72.3万是所有对比方法里最低的一档这个结果说明最重要的改进可能首先发生在记忆表示层而不一定发生在更复杂的检索编排层。消融实验进一步拆解了各个模块的贡献去掉profile后single-hop的f1从56.66下降到50.91说明稳定的用户属性对个性化回答很重要去掉graph后multi-hop的f1从42.50下降到39.76说明孤立事实确实难以解决远距离、多跳关联问题而去掉完整层次结构后整体性能也会明显回落。论文还研究了最终要取回多少条原子事实结果并不是越多越好当检索数量从5增加到20时多个任务的表现持续提升但超过20之后虽然召回率还可能上升回答质量却开始下降原因是无关事实增加后会污染上下文最终系统选择了kf等于10作为主要配置记忆检索需要足够证据也需要控制噪声。从延迟看atommem一次在线处理的平均总耗时约为3.6秒其中主要时间消耗在大模型的查询意图分析和答案生成上真正的检索流水线平均只需要145.8毫秒图重排平均只需要109.9毫秒这说明记忆图虽然结构更复杂却没有成为主要的速度瓶颈。当然这个系统也不是没有限制论文指出多个阶段仍然依赖底层大模型的生成稳定性如果抽取器或意图分析出现错误后续记忆质量就会受到影响目前系统主要处理文本对话对图片、音频等多模态信息还没有完整支持同时token效率仍然有进一步优化空间。这篇论文最值得借鉴的地方不只是提出了一个新的记忆系统而是重新强调了一个基础原则长期记忆的第一要务不是存储更多而是建立更好的最小记忆单元如果一条记忆足够完整、足够准确、足够容易检索那么后面的事件组织、画像更新和图关联才有可靠的基础。从这个角度看atommem和上一篇介绍的分层记忆方法关注点不同前者首先解决“记忆应该以什么形式保存”后者更强调“如何从层次结构中筛出真正有用的证据”这两条路线其实可以互相补充未来的智能体记忆可能既需要原子事实这样的高密度表示也需要分层和推理式的检索策略。总结下来就是atommem把漫长对话拆成一条条高价值原子事实再用event、profile和memory graph把它们重新组织起来让智能体在更少的上下文里找回更完整的用户经历记忆不是把过去全部留下而是把真正有用的事实留下并且在需要时重新连接起来。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
