在上一篇文章中我们梳理了RAG相关的基础知识。在面试中除了会考查这些基础概念面试官还会追问一些与RAG实际应用场景有关的问题比如如何评估RAG的效果、如何选择嵌入模型、系统上线后会遇到哪些问题以及检索不到内容时该如何排查。本文将围绕这些项目中的实际场景整理一些常见的RAG进阶面试题。另外完整的AI Agent面试题文档也已经同步到了aiflowline.cn大家可以结合文档阅读。1、如何评估 RAG 效果评估RAG的效果不能只看最终答案是否正确因为RAG分为检索和生成两个环节。在评估时要分别评估检索效果和生成效果。除此之外端到端效果和用户反馈也可以用来评估RAG效果。1检索结果评估检索效果的常见指标有RecallK目标文档是否出现在前K个结果里PrecisionK前K个结果有多少是真的相关MRR正确结果排名是否靠前Hit Rate是否命中正确的文本片段2生成效果评估生成效果的常见指标有答案是否正确是否根据检索结果回答是否产生幻觉是否缺少关键信息是否给出引用来源3端到端效果对用户来说最重要的是系统能不能正确回答用户提出的问题。我们可以准备一个测试集每次修改文本片段、Embedding模型、TopK、提示词等内容后都重新运行一遍测试集观察系统能否正确回答问题。4观察线上反馈系统上线以后对于通过RAG检索并回答的问题要记录用户是否继续追问、是否点赞、是否点踩、是否点击引用来源这些都能反映RAG的真实效果。2、请解释 RAG 的工作原理。与直接对 LLM 进行微调相比RAG 主要解决了什么问题有哪些优势RAG的工作原理是在LLM生成答案之前先从知识库中检索与用户问题相关的文本片段再把这些文本片段作为上下文传递给LLM生成答案。模型微调是指在已有大模型的基础上使用新的数据继续训练让模型参数发生变化。RAG适合用于补充外部知识而模型微调适合用于改变模型行为、输出格式或语言风格。RAG相比于微调有以下优势更新知识库更容易当知识库文档发生变化只需要更新知识库或索引而不需要重新训练模型。更适合接入私有知识库比如公司制度、产品文档、技术方案都可以直接使用RAG检索。成本更低与大模型微调相比构建和维护知识库的成本更低更新知识库内容也更快。文档可追溯通过RAG可以很容易地返回引用来源用户可以清晰地看到回答问题时参考了哪个知识库、文档或文本片段。降低幻觉在提示词中明确要求模型只能基于RAG检索结果回答可以降低幻觉。在实际项目中RAG可以和模型微调配合使用。3、RAG 怎么解决 LLM 上下文窗口有限的问题LLM的上下文窗口大小是有限的。当RAG检索出来的文档片段很长时就不能把它们全部放到Prompt中。解决LLM上下文窗口限制问题时最重要的目标是保证最终的检索结果与问题内容最相关。有以下优化方式合理切分ChunkChunk太大会占用大量上下文空间太小又可能导致上下文被破坏。要根据文档类型选择合适的大小。控制TopK初步召回可以多返回一些Chunk但最终放到Prompt中的Chunk要限制数量。Rerank重排序通过Rerank重排序把检索结果中真正相关的内容放到上下文中。压缩上下文如果文本片段太长、太多可以通过做摘要、去重、提取关键信息等方式只将与问题有关的信息放到上下文。使用metadata过滤在检索时按照user_id、knowledge_base_id、文档类型等条件进行过滤减少无关数据进入检索范围。4、如何选择一个合适的嵌入模型选择Embedding模型时不能只看排行榜更重要的是看模型是否适合自己的业务和文档类型。主要从以下几个方面考虑语言和业务数据如果文档以中文为主就选择中文检索效果好的模型如果文档中经常出现中英文混合内容还要考虑模型的跨语言检索能力。最大输入长度模型的最大输入长度要能够覆盖常用的Chunk大小。向量维度和检索成本在进行文本嵌入时需要确定向量维度。向量维度越高占用的存储空间越大检索时也会消耗更多的计算资源。部署方式部署方式可以选择本地部署也可以直接使用云端API。本地部署需要消耗算力资源并增加运维成本但可以保证数据安全。云端API接入简单而且目前文本嵌入模型的价格比较便宜在数据安全要求不是特别严格的情况下推荐选择云端API。向量数据库配置嵌入模型的向量维度要和向量数据库保持一致。5、RAG 系统在实际部署中可能面临哪些挑战理想情况下我们通过RAG检索出与问题最相关的文档然后交给LLM生成正确答案。但在实际生产环境中还会遇到数据、权限、性能等问题。常见的问题如下文档质量和文档解析部分文档可能存在重复、过期、格式混乱等问题。对于PDF、Word、PPT、网页等不同类型的文件解析效果也不同。权限控制不同用户的文档访问权限不同在检索时必须先做权限过滤。不能先查出所有信息再让模型判断哪些内容可以展示否则可能会泄露敏感信息。知识更新当知识库中的文档新增、修改或删除时要及时同步向量数据库中的数据避免检索到已经过期的内容。处理延迟一次RAG操作可能包括问题重写、向量检索、全文检索、Rerank重排序等步骤。处理步骤越多系统延迟越高。6、GraphRAG 与传统 RAG 有什么区别传统RAG主要通过向量相似度检索找到与用户问题语义最相近的文本片段ChunkGraphRAG会在此基础上引入实体、关系和图结构。传统RAG的数据处理流程如下RAG数据处理流程图GraphRAG的数据处理过程如下GraphRAG数据处理流程图两者主要有以下区别检索方式传统RAG主要检索语义相似的文本GraphRAG还可以根据实体关系、图路径、邻居节点和社区摘要进行检索。适用场景如果问题的答案可以从知识库中直接找到那么传统的RAG已经够用了。如果问题涉及多个实体、多个关系则更适合使用GraphRAG。例如“该客户有哪些合同和项目谁负责这些项目”对于这类问题GraphRAG更有优势。可解释性GraphRAG可以给出完整的实体关系路径而传统RAG只能给出文本片段。从这个角度来看GraphRAG的可解释性更强。系统搭建成本传统RAG的实现和维护都比较简单GraphRAG还要处理实体抽取、关系建模、图谱更新和数据一致性实现成本也比较高。在实际项目中两者通常会配合使用。可以先通过向量检索找到相关文档再通过图检索补充实体关系信息。7、如果 RAG 系统返回 0 个检索结果你会如何排查问题当RAG返回 0 个检索结果时可以按照以下几个方向进行排查检查文档是否入库确认文档是否已经上传并且完成了解析、拆分、文本嵌入和入库。如果文档内容没有写入向量数据库那么检索结果一定为空。检查向量和索引确认Chunk是否已经通过Embedding模型成功转换为向量以及索引是否已经构建完成。检查查询向量在进行数据检索之前要先对用户提出的问题进行文本嵌入。如果出现接口调用失败、模型不一致或向量维度不一致等问题都可能导致检索失败。检查过滤条件在进行相似度检索时要对向量的metadata进行过滤。这一步可能会因为过滤条件错误提前过滤掉应该检索到的文档比如knowledge_base_id错误、权限错误等。检查检索参数检查检索的分数阈值是否设置过高以及TopK是否大于 0。查看检索日志如果仍然没有找到原因就查看完整的检索日志重点记录query原文、改写后的query、query生成的向量、过滤条件、TopK、分数阈值、检索返回数量等重要信息。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】