1、RAG 与知识检索RAGRetrieval-Augmented Generation检索增强生成是目前最主流的 LLM 落地架构之一。RAG 的核心思想是让 LLM 在回答问题时先从外部知识库中检索相关内容再基于检索结果生成回答而不是仅依赖模型训练时记住的知识。这解决了 LLM 的两个核心痛点知识截止日期模型不知道训练后发生的事和幻觉问题模型在不确定时会编造答案。2、RAG 基础原理一个完整的 RAG 系统由两条流水线组成离线索引流水线将文档预处理存入向量库和在线查询流水线接收用户问题、检索、生成。离线阶段将原始文档切分成小块通过 Embedding 模型转换为向量存入向量数据库。在线阶段将用户问题同样转换为向量从数据库中找到最相近的文档块拼接成上下文交给 LLM 生成答案。下图展示了 RAG 的完整请求流程3、数据预处理与文档切分Chunking前置挑战复杂文档解析在进行切分前RAG 往往面临着格式解析的挑战。特别是 PDF、Word 或扫描件中的表格、图片和多栏排版普通的文本提取极易造成语义错乱。目前行业主流方案是引入文档解析引擎如 LlamaParse、Unstructured或多模态大模型将复杂图文转换为结构化的 Markdown为后续高质量切分打下基础。文档切分策略文档切分是 RAG 效果的基础切分粒度直接影响检索质量。块太大会引入噪声块太小会丢失上下文。常用策略如下实践中常在切分时加入重叠overlap即相邻块之间共享若干字符防止重要信息在边界处被截断。典型配置块大小 512 tokens重叠 50~100 tokens。4、向量检索Embedding 模型Embedding 模型负责将文本转换为稠密向量通常是 768 或 1536 维的浮点数数组。语义相近的文本在向量空间中距离更近这正是相似度检索的数学基础。常用 Embedding 模型对比相似度计算与 ANN 算法检索的核心是度量距离。最常用的是余弦相似度Cosine Similarity它计算两个向量的夹角余弦值值域 [-1, 1]越接近 1 越相似。此外还有点积Dot Product和欧氏距离L2 Distance。为了在百万级向量中实现毫秒级检索数据库通常采用近似最近邻ANN算法如HNSW、IVF。HNSW 是目前最主流的算法它通过构建多层跳跃图网络牺牲极少的精度换取了数量级的搜索速度提升。