1. 从金鱼脑到老搭档Agent 记忆与知识库到底在解决什么做 Agent 开发的人大概都经历过这样一个阶段Demo 跑得飞起一旦进入真实场景就原形毕露。用户第一轮说帮我查一下上个月华东区的销售数据Agent 干得漂亮第二轮说那把它按品类拆一下Agent 一脸茫然——它是什么上个月华东区全丢了。这就是典型的无状态 Agent每一轮对话对它来说都是全新的世界像一条只有七秒记忆的金鱼。这个问题的本质不是模型不够聪明而是上下文没有被工程化地管理起来。大模型的上下文窗口再大也架不住多轮对话的累积、跨会话的延续、以及海量私有知识的注入。于是就有了两条主线一条是记忆Memory解决记住对话和历史的问题另一条是知识库Knowledge Base / RAG解决知道外部专业知识的问题。这两条线经常被混为一谈但它们的定位、实现方式、失效模式完全不同。我写这一章实战笔记就是想把这套东西从概念到落地讲透。适合谁看如果你正在做 Agent 开发被它记不住它答不准它胡编这三座大山压着那这篇就是给你准备的。我会从记忆的分层模型讲起拆到短期、长期、永久记忆各自怎么实现再讲知识库和 RAG 的工程细节包括分块、检索、重排、以及 RAG 和 MCP 这类容易混淆的概念边界最后落到选型和避坑上把我在真实项目里踩过的坑一个个摊开。先给一个总纲方便你建立心智模型能力解决的问题典型技术失效表现短期记忆单次会话内的上下文连贯对话缓冲区、滑动窗口、摘要压缩指代丢失、前后矛盾长期记忆跨会话记住用户偏好与事实向量库、结构化档案、记忆抽取每次都要重新自我介绍永久记忆稳定不变的核心设定系统提示、配置文件、知识固化人设漂移、规则被覆盖知识库/RAG注入外部专业知识分块、嵌入、检索、重排答非所问、张冠李戴、幻觉这张表是我整个实战笔记的骨架。接下来每一块我都会展开讲清楚为什么这么设计以及实际怎么落地。2. 记忆的分层设计短期、长期、永久到底怎么切很多人一上来就问用哪个记忆框架这其实是个伪命题。框架是结果不是起点。你得先想清楚你的 Agent 需要记住什么记多久以什么形式记想清楚这三个问题选型自然就出来了。我习惯把记忆切成三层这个切法不是教科书规定而是从工程实践中总结出来的——因为这三层的存储介质、更新频率、检索方式天然不同。2.1 短期记忆对话缓冲区的三种压缩策略短期记忆就是当前这轮会话的上下文。最朴素的做法是把所有历史消息原封不动塞进 prompt但这在几轮之后就会撑爆窗口而且成本飙升。所以短期记忆的核心命题是如何在有限窗口里保留最相关的信息。我实测下来有三种策略各有适用场景滑动窗口Sliding Window只保留最近 N 轮对话。实现最简单缺点是会丢掉早期的关键信息。适合任务导向、上下文依赖短的场景比如客服问答。摘要压缩Summary Buffer当对话超过阈值时把早期对话交给模型总结成一段摘要保留摘要 最近几轮原文。这是我最常用的方案兼顾了信息保留和窗口控制。关键信息抽取Entity Memory不保留原文而是实时抽取对话中的实体和事实存成结构化键值对。适合需要精确记住用户叫张三、预算 5 万、截止日期 3 月这类硬信息的场景。这里有个容易忽略的细节摘要压缩的触发时机。如果你每轮都触发摘要成本高且容易累积误差如果等到快撑爆才触发又可能来不及。我的经验是设置一个水位线比如窗口占用到 70% 时触发一次摘要把最老的一半对话压缩掉。这样既平滑又可控。注意摘要压缩是有损的多次压缩会像复印件的复印件一样越来越模糊。所以关键事实一定要单独抽出来存进长期记忆不能只依赖摘要。2.2 长期记忆向量检索与结构化档案的配合长期记忆要解决的是跨会话的问题。用户今天说了一次偏好明天再来Agent 应该还记得。实现上主流是两条路向量化存储和结构化存储而且往往是配合使用。向量化存储的思路是把每一条记忆一句话、一个事实、一段对话转成 embedding存进向量库需要时用语义相似度检索出来。它的优势是能处理模糊的、语义相关的召回比如用户问我之前提过的那个预算向量检索能匹配到我的预算是 5 万。但向量检索有个硬伤它不精确。如果你要查用户的确切生日向量检索可能给你返回一堆语义相近但事实错误的记忆。所以对于确定性事实我强烈建议用结构化存储——直接存成 JSON 或数据库记录用 key 精确查询。我的实践方案是双写一条重要记忆同时进向量库用于语义召回和结构化档案用于精确查询。检索时先走结构化拿硬事实再用向量补充软上下文。这套组合拳打下来长期记忆的准确率会明显高于单用任何一种。2.3 永久记忆系统提示与配置文件的固化永久记忆是那些永远不该变的东西Agent 的人设、核心规则、安全边界、领域常识。这部分不需要检索直接固化在系统提示或配置文件里每次请求都带上。为什么单独拎出来因为它和长期记忆的更新逻辑完全相反。长期记忆是越用越多永久记忆是基本不动。如果你把核心规则也放进可检索的记忆库就会出现规则被检索遗漏或被新记忆覆盖的风险。我见过有项目把不能透露内部价格这条规则放进向量库结果某次检索没召回Agent 就把价格说出去了——这是设计层面的失误。永久记忆的维护要点是版本化。规则变更时不要直接改而是保留版本记录方便回溯为什么某天 Agent 的行为变了。这个习惯在排查线上问题时能救命。3. 知识库与 RAG从能查到到答得准的工程细节记忆解决的是记住交互知识库解决的是知道世界。这两件事经常被一起提但知识库的工程复杂度其实更高因为它涉及非结构化文档的处理链路。RAG检索增强生成是当前最主流的方案但很多人对它的理解停留在把文档切块、向量化、检索这三步真做起来才发现效果惨不忍睹。问题往往出在细节里。3.1 分块策略为什么你的检索总是召回垃圾分块Chunking是 RAG 里最被低估的环节。我见过太多项目用固定的 512 字符切块然后抱怨检索不准。分块的本质是在语义完整性和检索粒度之间找平衡块太大检索到的内容包含太多无关信息稀释了相关性块太小语义被切断检索到的片段答非所问。我的分块原则是结构优先语义兜底如果文档有天然结构标题、章节、段落优先按结构切让每个块是一个完整的语义单元。如果没有结构用递归切分先按段落切段落太长再按句子切句子还长才按字符切。块之间保留一定的重叠Overlap通常是块大小的 10%~20%避免关键信息正好卡在边界上被切断。还有一个进阶技巧给每个块加上下文头。比如一个块本身是该季度增长 15%单独看不知道说的是什么。如果在块前面加上文档2024 年 Q1 财报 / 章节营收分析检索和生成的质量都会明显提升。这个做法在业界叫上下文增强检索实测对准确率提升很可观。3.2 检索与重排两阶段召回的必要性单靠向量相似度检索效果往往不够。原因是 embedding 模型擅长捕捉语义相近但对精确匹配和逻辑相关不够敏感。比如用户问退款流程第三步是什么向量检索可能召回一堆讲退款的段落但未必精准命中第三步。所以成熟的 RAG 都是两阶段的召回阶段Recall用向量检索 关键词检索如 BM25混合召回一批候选比如 top 20。这一步追求不漏宁可多召回。重排阶段Rerank用一个专门的重排模型Cross-Encoder 类对候选重新打分排序取 top 3~5 喂给大模型。这一步追求精准。混合召回是关键。纯向量检索对专有名词、编号、代码这类字面匹配需求很弱而 BM25 恰好补上这块。两者结合召回率会明显好于单用其一。重排模型虽然增加了一次推理开销但它把相关性判断从粗筛变成了精算对最终答案质量的提升是值得的。3.3 RAG 与 MCP 的边界别把两件事混着做这里必须澄清一个高频混淆点RAG 和 MCP 不是一回事也不该互相替代。RAG 是一套知识注入的方法论核心是检索 生成。MCPModel Context Protocol是一套工具调用的协议标准核心是让模型能标准化地调用外部能力查数据库、调 API、读文件。一个是给模型喂知识一个是让模型用工具。实际项目里两者经常配合Agent 通过 MCP 调用一个知识库查询工具而这个工具内部实现的就是 RAG 流程。所以正确的理解是——RAG 可以是 MCP 工具的一种实现但 MCP 本身不等于 RAG。把这两个概念混着讲会导致架构设计上的混乱比如有人试图用 MCP 协议去解决分块和检索问题那是南辕北辙。4. 记忆框架选型别被框架两个字带偏聊完原理回到大家最关心的选型。市面上记忆框架不少但我必须先泼一盆冷水没有哪个框架能开箱即用地解决你的记忆问题。框架提供的是存储和检索的脚手架真正决定效果的是你的记忆抽取策略、更新策略和检索策略。选框架之前先想清楚你的场景。4.1 选型的四个判断维度我通常从这四个维度评估记忆类型支持是否同时支持短期缓冲、长期向量、结构化档案只支持一种的后期大概率要自己补。检索能力是否支持混合检索和重排只给向量检索的准确率天花板有限。可控性记忆的写入、更新、删除是否透明可干预黑盒式的自动记忆出问题时你无从下手。集成成本和你现有的技术栈向量库、数据库、模型服务是否好对接把这四个维度列成表对着候选框架打分比听别人说某某框架最好用靠谱得多。维度关键问题我的权重记忆类型是否覆盖短/长/永久三层高检索能力有无混合检索与重排高可控性记忆读写是否可干预中高集成成本与现有栈的对接难度中4.2 自建 vs 用框架一个务实的判断我的建议是原型阶段用框架快速验证生产阶段按需自建或深度定制。原因很简单框架帮你省的是搭架子的时间但记忆策略是高度场景化的通用框架很难刚好贴合你的需求。等你摸清楚自己需要什么样的记忆抽取和检索逻辑往往会发现自建一个轻量模块比改造框架更省心。自建的核心其实不复杂一个向量库存语义记忆 一个关系库或文档库存结构化记忆 一套抽取和检索逻辑。难点不在存储而在抽取逻辑的设计——什么时候该记、记成什么形式、什么时候该忘。这部分我后面会专门讲。5. 实战踩坑那些文档里不会写的教训前面讲的都是应该怎么做这一节讲实际会怎么翻车。这些坑都是我一个个踩出来的写出来希望能帮你少走弯路。5.1 记忆污染错误信息一旦写入就很难清除最坑的一类问题是记忆污染。用户随口说了一句错误信息或者模型自己幻觉出了一个事实被当成记忆写进了长期库。之后每次检索都会把它召回Agent 就一本正经地胡说八道而且你很难定位——因为从检索结果看它有据可依。我的应对方案有三层写入前校验不是所有对话都值得记。只抽取明确的、用户主动陈述的事实对模型推断出来的内容保持警惕。来源标记每条记忆都记录来源哪次对话、哪句话出问题时能追溯。定期清理给记忆加新鲜度和置信度字段低置信度的记忆在检索时降权长期未被验证的可以淘汰。5.2 检索到了但没用上上下文注入的位置很关键另一个隐蔽的坑是检索明明召回了正确内容但模型就是不用。排查下来问题往往出在上下文注入的位置和格式。如果你把检索结果随便塞在 prompt 中间模型可能看不见或者不重视。我的做法是把检索到的知识放在系统提示之后、用户问题之前并用明确的分隔标记如以下是参考资料标出。在系统提示里明确指示优先基于参考资料回答参考资料没有的再凭常识并说明来源。如果检索结果之间冲突明确告诉模型以最新/最权威的为准而不是让它自己纠结。这些细节看起来琐碎但对最终效果的影响是决定性的。5.3 成本失控记忆和检索都是烧钱的最后一个坑是成本。记忆抽取要调模型检索要算 embedding重排要跑模型每一环都在烧钱。我见过项目上线后成本是预估的三倍就是因为没做分层缓存。我的优化手段embedding 缓存相同文本的 embedding 结果缓存起来避免重复计算。检索结果缓存高频相同查询直接返回缓存结果。记忆抽取降频不是每轮都抽取而是按需触发比如检测到用户陈述了事实才抽。重排按需启用候选数量少时直接跳过重排省一次推理。提示成本优化一定要在架构设计阶段就考虑事后补救往往要动大手术。6. 把记忆和知识库串起来一个可落地的组合方案讲了这么多分散的点最后我把它们串成一个完整的方案你可以直接参考这个结构去搭自己的 Agent。整体数据流是这样的用户输入进来先经过短期记忆模块组装当前上下文同时触发长期记忆检索把相关的历史事实召回再触发知识库检索把相关的专业知识召回三路信息合并后注入 prompt交给大模型生成生成完成后记忆抽取模块判断这轮对话有没有值得长期保存的内容有则写入长期库。这个流程里有几个关键设计点值得强调三路检索并行短期、长期、知识库的检索互不依赖可以并行执行降低延迟。统一的相关性排序三路召回的内容最终要合并需要一个统一的排序逻辑决定谁进 prompt、谁被截断。写入的异步化记忆抽取和写入不要阻塞主流程异步处理避免拖慢响应。这套方案我在几个项目里跑过稳定性不错。当然它不是银弹具体参数召回数量、重排阈值、摘要水位线都需要根据你的场景调。我的建议是先跑通再拿真实数据做 A/B用数据说话别凭感觉调参。最后分享一个我个人的体会记忆和知识库的价值不在于记得多而在于记得准、取得对。很多团队一上来就追求记忆量结果召回一堆噪音反而拖累了效果。先把检索精度做上去再考虑扩大记忆规模这个顺序不能反。
Agent记忆与知识库实战：从短期记忆到RAG的工程落地指南
1. 从金鱼脑到老搭档Agent 记忆与知识库到底在解决什么做 Agent 开发的人大概都经历过这样一个阶段Demo 跑得飞起一旦进入真实场景就原形毕露。用户第一轮说帮我查一下上个月华东区的销售数据Agent 干得漂亮第二轮说那把它按品类拆一下Agent 一脸茫然——它是什么上个月华东区全丢了。这就是典型的无状态 Agent每一轮对话对它来说都是全新的世界像一条只有七秒记忆的金鱼。这个问题的本质不是模型不够聪明而是上下文没有被工程化地管理起来。大模型的上下文窗口再大也架不住多轮对话的累积、跨会话的延续、以及海量私有知识的注入。于是就有了两条主线一条是记忆Memory解决记住对话和历史的问题另一条是知识库Knowledge Base / RAG解决知道外部专业知识的问题。这两条线经常被混为一谈但它们的定位、实现方式、失效模式完全不同。我写这一章实战笔记就是想把这套东西从概念到落地讲透。适合谁看如果你正在做 Agent 开发被它记不住它答不准它胡编这三座大山压着那这篇就是给你准备的。我会从记忆的分层模型讲起拆到短期、长期、永久记忆各自怎么实现再讲知识库和 RAG 的工程细节包括分块、检索、重排、以及 RAG 和 MCP 这类容易混淆的概念边界最后落到选型和避坑上把我在真实项目里踩过的坑一个个摊开。先给一个总纲方便你建立心智模型能力解决的问题典型技术失效表现短期记忆单次会话内的上下文连贯对话缓冲区、滑动窗口、摘要压缩指代丢失、前后矛盾长期记忆跨会话记住用户偏好与事实向量库、结构化档案、记忆抽取每次都要重新自我介绍永久记忆稳定不变的核心设定系统提示、配置文件、知识固化人设漂移、规则被覆盖知识库/RAG注入外部专业知识分块、嵌入、检索、重排答非所问、张冠李戴、幻觉这张表是我整个实战笔记的骨架。接下来每一块我都会展开讲清楚为什么这么设计以及实际怎么落地。2. 记忆的分层设计短期、长期、永久到底怎么切很多人一上来就问用哪个记忆框架这其实是个伪命题。框架是结果不是起点。你得先想清楚你的 Agent 需要记住什么记多久以什么形式记想清楚这三个问题选型自然就出来了。我习惯把记忆切成三层这个切法不是教科书规定而是从工程实践中总结出来的——因为这三层的存储介质、更新频率、检索方式天然不同。2.1 短期记忆对话缓冲区的三种压缩策略短期记忆就是当前这轮会话的上下文。最朴素的做法是把所有历史消息原封不动塞进 prompt但这在几轮之后就会撑爆窗口而且成本飙升。所以短期记忆的核心命题是如何在有限窗口里保留最相关的信息。我实测下来有三种策略各有适用场景滑动窗口Sliding Window只保留最近 N 轮对话。实现最简单缺点是会丢掉早期的关键信息。适合任务导向、上下文依赖短的场景比如客服问答。摘要压缩Summary Buffer当对话超过阈值时把早期对话交给模型总结成一段摘要保留摘要 最近几轮原文。这是我最常用的方案兼顾了信息保留和窗口控制。关键信息抽取Entity Memory不保留原文而是实时抽取对话中的实体和事实存成结构化键值对。适合需要精确记住用户叫张三、预算 5 万、截止日期 3 月这类硬信息的场景。这里有个容易忽略的细节摘要压缩的触发时机。如果你每轮都触发摘要成本高且容易累积误差如果等到快撑爆才触发又可能来不及。我的经验是设置一个水位线比如窗口占用到 70% 时触发一次摘要把最老的一半对话压缩掉。这样既平滑又可控。注意摘要压缩是有损的多次压缩会像复印件的复印件一样越来越模糊。所以关键事实一定要单独抽出来存进长期记忆不能只依赖摘要。2.2 长期记忆向量检索与结构化档案的配合长期记忆要解决的是跨会话的问题。用户今天说了一次偏好明天再来Agent 应该还记得。实现上主流是两条路向量化存储和结构化存储而且往往是配合使用。向量化存储的思路是把每一条记忆一句话、一个事实、一段对话转成 embedding存进向量库需要时用语义相似度检索出来。它的优势是能处理模糊的、语义相关的召回比如用户问我之前提过的那个预算向量检索能匹配到我的预算是 5 万。但向量检索有个硬伤它不精确。如果你要查用户的确切生日向量检索可能给你返回一堆语义相近但事实错误的记忆。所以对于确定性事实我强烈建议用结构化存储——直接存成 JSON 或数据库记录用 key 精确查询。我的实践方案是双写一条重要记忆同时进向量库用于语义召回和结构化档案用于精确查询。检索时先走结构化拿硬事实再用向量补充软上下文。这套组合拳打下来长期记忆的准确率会明显高于单用任何一种。2.3 永久记忆系统提示与配置文件的固化永久记忆是那些永远不该变的东西Agent 的人设、核心规则、安全边界、领域常识。这部分不需要检索直接固化在系统提示或配置文件里每次请求都带上。为什么单独拎出来因为它和长期记忆的更新逻辑完全相反。长期记忆是越用越多永久记忆是基本不动。如果你把核心规则也放进可检索的记忆库就会出现规则被检索遗漏或被新记忆覆盖的风险。我见过有项目把不能透露内部价格这条规则放进向量库结果某次检索没召回Agent 就把价格说出去了——这是设计层面的失误。永久记忆的维护要点是版本化。规则变更时不要直接改而是保留版本记录方便回溯为什么某天 Agent 的行为变了。这个习惯在排查线上问题时能救命。3. 知识库与 RAG从能查到到答得准的工程细节记忆解决的是记住交互知识库解决的是知道世界。这两件事经常被一起提但知识库的工程复杂度其实更高因为它涉及非结构化文档的处理链路。RAG检索增强生成是当前最主流的方案但很多人对它的理解停留在把文档切块、向量化、检索这三步真做起来才发现效果惨不忍睹。问题往往出在细节里。3.1 分块策略为什么你的检索总是召回垃圾分块Chunking是 RAG 里最被低估的环节。我见过太多项目用固定的 512 字符切块然后抱怨检索不准。分块的本质是在语义完整性和检索粒度之间找平衡块太大检索到的内容包含太多无关信息稀释了相关性块太小语义被切断检索到的片段答非所问。我的分块原则是结构优先语义兜底如果文档有天然结构标题、章节、段落优先按结构切让每个块是一个完整的语义单元。如果没有结构用递归切分先按段落切段落太长再按句子切句子还长才按字符切。块之间保留一定的重叠Overlap通常是块大小的 10%~20%避免关键信息正好卡在边界上被切断。还有一个进阶技巧给每个块加上下文头。比如一个块本身是该季度增长 15%单独看不知道说的是什么。如果在块前面加上文档2024 年 Q1 财报 / 章节营收分析检索和生成的质量都会明显提升。这个做法在业界叫上下文增强检索实测对准确率提升很可观。3.2 检索与重排两阶段召回的必要性单靠向量相似度检索效果往往不够。原因是 embedding 模型擅长捕捉语义相近但对精确匹配和逻辑相关不够敏感。比如用户问退款流程第三步是什么向量检索可能召回一堆讲退款的段落但未必精准命中第三步。所以成熟的 RAG 都是两阶段的召回阶段Recall用向量检索 关键词检索如 BM25混合召回一批候选比如 top 20。这一步追求不漏宁可多召回。重排阶段Rerank用一个专门的重排模型Cross-Encoder 类对候选重新打分排序取 top 3~5 喂给大模型。这一步追求精准。混合召回是关键。纯向量检索对专有名词、编号、代码这类字面匹配需求很弱而 BM25 恰好补上这块。两者结合召回率会明显好于单用其一。重排模型虽然增加了一次推理开销但它把相关性判断从粗筛变成了精算对最终答案质量的提升是值得的。3.3 RAG 与 MCP 的边界别把两件事混着做这里必须澄清一个高频混淆点RAG 和 MCP 不是一回事也不该互相替代。RAG 是一套知识注入的方法论核心是检索 生成。MCPModel Context Protocol是一套工具调用的协议标准核心是让模型能标准化地调用外部能力查数据库、调 API、读文件。一个是给模型喂知识一个是让模型用工具。实际项目里两者经常配合Agent 通过 MCP 调用一个知识库查询工具而这个工具内部实现的就是 RAG 流程。所以正确的理解是——RAG 可以是 MCP 工具的一种实现但 MCP 本身不等于 RAG。把这两个概念混着讲会导致架构设计上的混乱比如有人试图用 MCP 协议去解决分块和检索问题那是南辕北辙。4. 记忆框架选型别被框架两个字带偏聊完原理回到大家最关心的选型。市面上记忆框架不少但我必须先泼一盆冷水没有哪个框架能开箱即用地解决你的记忆问题。框架提供的是存储和检索的脚手架真正决定效果的是你的记忆抽取策略、更新策略和检索策略。选框架之前先想清楚你的场景。4.1 选型的四个判断维度我通常从这四个维度评估记忆类型支持是否同时支持短期缓冲、长期向量、结构化档案只支持一种的后期大概率要自己补。检索能力是否支持混合检索和重排只给向量检索的准确率天花板有限。可控性记忆的写入、更新、删除是否透明可干预黑盒式的自动记忆出问题时你无从下手。集成成本和你现有的技术栈向量库、数据库、模型服务是否好对接把这四个维度列成表对着候选框架打分比听别人说某某框架最好用靠谱得多。维度关键问题我的权重记忆类型是否覆盖短/长/永久三层高检索能力有无混合检索与重排高可控性记忆读写是否可干预中高集成成本与现有栈的对接难度中4.2 自建 vs 用框架一个务实的判断我的建议是原型阶段用框架快速验证生产阶段按需自建或深度定制。原因很简单框架帮你省的是搭架子的时间但记忆策略是高度场景化的通用框架很难刚好贴合你的需求。等你摸清楚自己需要什么样的记忆抽取和检索逻辑往往会发现自建一个轻量模块比改造框架更省心。自建的核心其实不复杂一个向量库存语义记忆 一个关系库或文档库存结构化记忆 一套抽取和检索逻辑。难点不在存储而在抽取逻辑的设计——什么时候该记、记成什么形式、什么时候该忘。这部分我后面会专门讲。5. 实战踩坑那些文档里不会写的教训前面讲的都是应该怎么做这一节讲实际会怎么翻车。这些坑都是我一个个踩出来的写出来希望能帮你少走弯路。5.1 记忆污染错误信息一旦写入就很难清除最坑的一类问题是记忆污染。用户随口说了一句错误信息或者模型自己幻觉出了一个事实被当成记忆写进了长期库。之后每次检索都会把它召回Agent 就一本正经地胡说八道而且你很难定位——因为从检索结果看它有据可依。我的应对方案有三层写入前校验不是所有对话都值得记。只抽取明确的、用户主动陈述的事实对模型推断出来的内容保持警惕。来源标记每条记忆都记录来源哪次对话、哪句话出问题时能追溯。定期清理给记忆加新鲜度和置信度字段低置信度的记忆在检索时降权长期未被验证的可以淘汰。5.2 检索到了但没用上上下文注入的位置很关键另一个隐蔽的坑是检索明明召回了正确内容但模型就是不用。排查下来问题往往出在上下文注入的位置和格式。如果你把检索结果随便塞在 prompt 中间模型可能看不见或者不重视。我的做法是把检索到的知识放在系统提示之后、用户问题之前并用明确的分隔标记如以下是参考资料标出。在系统提示里明确指示优先基于参考资料回答参考资料没有的再凭常识并说明来源。如果检索结果之间冲突明确告诉模型以最新/最权威的为准而不是让它自己纠结。这些细节看起来琐碎但对最终效果的影响是决定性的。5.3 成本失控记忆和检索都是烧钱的最后一个坑是成本。记忆抽取要调模型检索要算 embedding重排要跑模型每一环都在烧钱。我见过项目上线后成本是预估的三倍就是因为没做分层缓存。我的优化手段embedding 缓存相同文本的 embedding 结果缓存起来避免重复计算。检索结果缓存高频相同查询直接返回缓存结果。记忆抽取降频不是每轮都抽取而是按需触发比如检测到用户陈述了事实才抽。重排按需启用候选数量少时直接跳过重排省一次推理。提示成本优化一定要在架构设计阶段就考虑事后补救往往要动大手术。6. 把记忆和知识库串起来一个可落地的组合方案讲了这么多分散的点最后我把它们串成一个完整的方案你可以直接参考这个结构去搭自己的 Agent。整体数据流是这样的用户输入进来先经过短期记忆模块组装当前上下文同时触发长期记忆检索把相关的历史事实召回再触发知识库检索把相关的专业知识召回三路信息合并后注入 prompt交给大模型生成生成完成后记忆抽取模块判断这轮对话有没有值得长期保存的内容有则写入长期库。这个流程里有几个关键设计点值得强调三路检索并行短期、长期、知识库的检索互不依赖可以并行执行降低延迟。统一的相关性排序三路召回的内容最终要合并需要一个统一的排序逻辑决定谁进 prompt、谁被截断。写入的异步化记忆抽取和写入不要阻塞主流程异步处理避免拖慢响应。这套方案我在几个项目里跑过稳定性不错。当然它不是银弹具体参数召回数量、重排阈值、摘要水位线都需要根据你的场景调。我的建议是先跑通再拿真实数据做 A/B用数据说话别凭感觉调参。最后分享一个我个人的体会记忆和知识库的价值不在于记得多而在于记得准、取得对。很多团队一上来就追求记忆量结果召回一堆噪音反而拖累了效果。先把检索精度做上去再考虑扩大记忆规模这个顺序不能反。
