从 LLM 到 Agent：一文理清 AI 应用里的核心概念 最近很多人在接触 AI 工具时会遇到一堆名词LLM、Token、Prompt、Context、Embedding、RAG、Function Calling、MCP、Agent、Claude Code、Codex……这些概念看起来很多但其实可以分成几层来看模型基础层 → 上下文层 → 知识检索层 → 工具调用层 → Agent 层 → 工程应用层它们不是互相独立的而是围绕一个问题展开大模型如何理解信息、调用工具并最终完成任务一、最核心LLM大语言模型LLM全称是Large Language Model也就是大语言模型。比如我们熟悉的GPTClaudeGeminiQwenDeepSeekLlama它们的核心能力是输入一段文本预测并生成接下来的文本。比如你输入text 帮我总结这篇文章模型输出text 这篇文章主要讲了……所以LLM 可以理解为整个 AI 应用的“脑子”。但这个“脑子”本身并不是万能的。它需要知道你问的是什么、上下文是什么、有没有外部资料、能不能调用工具。这就引出了后面的概念。二、Token模型处理文字的基本单位大模型不是直接按照“字”或“词”来理解文本而是按照Token来处理。比如text 我喜欢人工智能可能会被切成text [我, 喜欢, 人工, 智能]也可能是text [我, 喜, 欢, 人工智能]不同模型的 tokenizer 不一样。模型真正看到的是 token 对应的数字 IDtext [123, 456, 789, 1011]Token 会影响很多实际问题影响项说明上下文长度模型一次最多能处理多少 token计费API 通常按 token 收费速度token 越多推理越慢记忆范围超过窗口的内容模型就看不到一句话理解Token 是大模型读写内容的最小计算单位。三、Prompt你给模型的指令Prompt就是你输入给模型的提示词。例如text 你是一个 Java 后端专家请帮我解释下面代码。一个好的 Prompt 通常包含角色任务背景约束示例输出格式参考资料比如在 RAG 场景中常见 Prompt 是text 请只根据以下资料回答问题。 如果资料中没有答案请回答“资料中未提到”。 资料 {context} 问题 {question}Prompt 决定模型“怎么答”。四、Context模型当前能看到的一切Context中文常叫上下文。它表示模型当前能看到的所有信息包括系统提示词历史对话用户当前问题RAG 检索出来的资料工具调用返回结果代码文件内容比如这段对话text User: 什么是 RAG Assistant: RAG 是…… User: 那 embedding 是什么当你问“那 embedding 是什么”时模型需要依赖前面的上下文才能知道“那”指的是 RAG 相关概念。Prompt 和 Context 的区别简单来说概念含义Prompt你主动写给模型的指令或输入Context模型当前能看到的全部信息所以Prompt 是 Context 的一部分。以前大家常说 Prompt Engineering现在越来越多地说 Context Engineering。因为 AI 应用已经不是只写一句提示词而是要设计整个上下文。五、Temperature 和 Top-p控制模型输出的随机性LLM 每次生成内容时并不是只有一个固定答案。它会根据概率选择下一个 token。Temperature和Top-p就是控制输出随机性的参数。TemperatureTemperature 控制随机程度。text temperature 0输出更稳定、更确定适合代码数学事实问答RAG 问答text temperature 0.8输出更发散、更有创意适合写小说起名字头脑风暴Top-pTop-p 控制候选 token 的范围。例如text top_p 0.9表示模型只从累计概率前 90% 的候选 token 中采样。粗略理解Temperature 控制随机强度Top-p 控制候选范围。实际项目里常见设置是text 严肃问答temperature 0 或 0.2 创意写作temperature 0.7六、Embedding把文本变成向量Embedding 是把文本转换成数字向量的技术。例如text 爸爸 → [-0.037, 0.008, -0.034, ...] 父亲 → [-0.041, 0.011, -0.030, ...]语义相近的文本向量距离也会更近。比如text 父亲 vs 爸爸 0.8444说明它们语义接近。Embedding 常用于语义搜索相似度匹配聚类推荐系统RAG 检索一句话理解Embedding 让机器可以用数学方式比较文本语义。七、RAG让模型查资料再回答RAG全称是Retrieval-Augmented Generation中文常叫“检索增强生成”。它解决的问题是大模型不知道你的私有知识、最新知识、长文档细节。RAG 的基本流程是text 文档 ↓ 切片 chunk ↓ embedding ↓ 存入向量数据库用户提问时text 问题 ↓ 问题 embedding ↓ 向量数据库检索相关 chunk ↓ 把 chunk 拼进 prompt/context ↓ LLM 生成答案注意RAG 不是把知识“训练进”大模型里而是把资料存在外部数据库里提问时临时取出来给模型看。这也是为什么很多个人知识库、企业知识库都在用 RAG。八、Function Calling让模型调用函数大模型本身只会生成文本但通过 Function Calling它可以决定调用外部函数。比如你有一个函数python defget_weather(city): return北京今天 28 度多云用户问text 北京天气怎么样模型可以输出一个结构化调用json { name:get_weather, arguments:{ city:北京 } }然后程序执行这个函数把结果返回给模型再由模型组织最终回答。完整流程是text 用户问题 ↓ LLM 判断需要调用工具 ↓ 输出函数名和参数 ↓ 程序执行函数 ↓ 工具结果返回给 LLM ↓ LLM 组织最终回答Function Calling 让 LLM 能使用外部能力比如查天气查数据库发邮件搜索网页执行代码调用业务接口一句话理解Function Calling 是让大模型从“只会说”变成“能调用外部能力”的机制。九、Plugin封装好的一组工具Plugin插件可以理解为一组封装好的工具。比如天气插件数据库插件浏览器插件GitHub 插件支付插件日历插件底层通常还是text API / Function Calling / Tool Calling区别可以这样理解概念粗略理解Function Calling单个函数调用机制Tool模型可调用的能力单元Plugin打包好的一组功能十、MCP统一工具接入协议MCP全称是Model Context Protocol。可以理解为给大模型应用连接外部工具和数据源的一套标准协议。以前每个 AI 应用都要单独适配工具text Claude Code 适配 GitHub Cursor 适配 GitHub 自研 Agent 适配 GitHub 另一个 IDE 也适配 GitHub有了 MCP 后可以变成text GitHub 提供 MCP Server 各种 AI 客户端连接这个 MCP ServerMCP 常见结构是text MCP ClientAI 应用比如 Claude Desktop、Claude Code、Cursor MCP Server工具服务比如文件系统、数据库、GitHub、浏览器关系大概是text LLM / Agent ↓ MCP Client ↓ MCP Server ↓ 外部工具 / 数据源一句话理解MCP 解决的是工具接入标准化问题。十一、Agent能围绕目标自主执行任务的系统普通 LLM 通常是text 你问一句它答一句。而 Agent 更像是text 你给一个目标它自己拆任务、查资料、调用工具、执行步骤、检查结果。比如你说text 帮我修复这个项目里的登录 bug。Agent 可能会text 1. 查看项目目录 2. 搜索 login 相关代码 3. 阅读报错日志 4. 修改代码 5. 运行测试 6. 如果测试失败继续修 7. 给你总结修改内容一个 Agent 通常包含LLMPromptMemory / ContextToolsPlannerExecutorReflection一句话理解Agent LLM 工具 规划 执行循环。十二、Agent SkillAgent 的可复用技能Agent Skill 可以理解为 Agent 的可复用能力包、操作说明或工作流模板。比如一个代码 Agent 可能有这些技能读项目结构查找 bug写单元测试提交 Git diff调用终端搜索文档生成 PR 描述一个客服 Agent 可能有这些技能查订单退款改地址查物流生成工单升级人工客服Skill 不一定是模型本身的能力很多时候是text Prompt Tool Workflow 规范十三、Context Engineering上下文工程以前大家关注的是 Prompt Engineering也就是怎么写好提示词。但现在更重要的是 Context Engineering。因为一个真实 AI 应用里模型看到的不只是一句 prompt而是一整个上下文系统。Context Engineering 包括系统提示词怎么写历史对话保留哪些RAG 检索哪些 chunk工具结果怎么塞回去代码文件怎么选择长上下文怎么压缩记忆怎么管理输出格式怎么约束一句话理解Prompt Engineering 是写好提示词Context Engineering 是管理好模型能看到的一切信息。十四、CLI、Claude Code、Codex 是什么CLICLI 是Command Line Interface命令行界面。比如bash claude codex gemini你可以在终端里和 AI 交互让它读文件、改代码、跑命令。Claude CodeClaude Code 是 Anthropic 的 AI 编程助手/代码 Agent。它可以读项目文件理解代码结构修改代码运行测试调用工具通过 MCP 扩展能力本质上它是一个面向代码场景的 Agent 产品。CodexCodex 通常指 OpenAI 的代码相关智能体/编程助手体系。它同样面向开发场景理解代码生成代码修 bug解释项目执行任务十五、这些概念之间是什么关系可以用一张图来理解text 用户问题 ↓ Prompt ↓ ┌──────────────────────────────────────┐ │ Context 上下文 │ │ 系统提示词 历史对话 RAG资料 工具结果 │ └───────────────────↓──────────────────┘ LLM ↓ ┌───────────┼───────────┐ ↓ ↓ ↓ 直接回答 调用工具 生成计划/代码 ↓ Function Calling / MCP / Plugin ↓ 外部工具 / 数据库 / API ↓ 工具结果回到 Context ↓ LLM 继续回答十六、RAG、MCP、Agent 到底有什么区别这几个概念最容易混。可以这样区分概念解决什么问题典型动作RAG让模型查知识库检索文档 chunkFunction Calling让模型调用函数调 API、查数据库MCP标准化工具接入连接文件系统、GitHub、数据库Agent让模型自主完成任务规划、调用工具、循环执行Context Engineering让模型看到正确上下文管理 prompt、资料、工具结果十七、一个完整例子AI 代码助手如何工作假设你对 Claude Code 说text 帮我修复登录接口 500 的问题。背后可能发生text 1. CLI 接收你的命令 2. Agent 开始规划任务 3. 通过工具读取项目文件 4. 通过搜索找到 login 相关代码 5. 把相关文件内容放进 Context 6. LLM 分析代码 7. 通过工具运行测试 8. 看到报错结果 9. 修改代码 10. 再次运行测试 11. 最后总结修复内容如果它接了 MCPtext 它可以通过 MCP 访问 GitHub issue、数据库、浏览器、文件系统等。如果它用了 RAGtext 它可以从项目文档、历史知识库里检索相关说明。所以一个 AI 编程工具可能同时包含text LLM Agent Tools MCP RAG Context Engineering最后总结一套最简关系你可以这样记text Token模型处理文字的单位 Prompt你给模型的指令 Context模型当前能看到的全部内容 LLM根据 Context 生成回答的核心模型 Embedding把文本变成向量 Vector DB存向量并检索相似内容 RAG用检索结果增强 LLM 回答 Function Calling模型选择调用函数 Plugin / Tool模型可用的外部能力 MCP工具接入的标准协议 AgentLLM 工具 规划 执行循环 Agent SkillAgent 的可复用技能 Context Engineering管理模型上下文的工程方法 Claude Code / Codex代码场景下的 Agent 产品一句话总结LLM 是大脑Token 是输入单位Prompt 和 Context 是喂给大脑的信息Embedding、向量库和 RAG 负责找知识Function Calling、Plugin 和 MCP 负责接工具Agent 负责把这些能力组合起来完成复杂任务。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】