一、大模型应用基础核心目标建立对大模型的工程认知了解边界和使用成本1、基本原理懂原理就行不用会推导Transformer 架构、Attention 机制、位置编码理解 Attention 是 O(n²) 复杂度是长上下文又慢又贵的原因位置编码决定了模型的外推能力是超长上下文效果会明显退化的原因Scaling Law解释了大力出奇迹的由来对应用开发者是背景知识知道是什么就可以2、API 接口需要动手实践消息格式System、User、Assistant 三种角色的分工多轮对话本质是无状态的每次请求都要把完整历史带上流式输出协议SSE影响输出随机性的采样参数Temperature、Top_p稳定的提示词前缀可以被缓存复用省 token、降延迟的有效手段3、上下文 Context常见模型的窗口大小、超窗口后的截断策略Lost in the middle塞在上下文中间的信息容易被模型忽略长上下文对延迟和成本的实际影响4、局限性依赖训练数据、有知识截止时间、会幻觉、看不到私域知识、更新知识困难、训练成本高5、通用模型 vs 推理模型推理模型把思考过程内化了用更高的延迟和 token 换更强的推理、规划能力模型选择简单抽取、改写、分类用通用模型复杂推理、多步规划上推理模型6、多模态模型了解图文、音视频输入的基本能力边界二、提示词工程核心目标稳定且可控地完成任务1、设计要素任务目标、上下文、角色、受众、样例、输出格式2、构建技巧思维链、Few-shot、自我验证、格式化输出用推理模型时手动写 CoT 的收益大幅下降甚至有害模型自己会拆解步骤硬塞一套思考流程反而是限制它CoT 主要是给通用模型用的3、System Prompt 设计角色、约束、输出规范这类稳定的东西放 system prompt动态输入放 user prompt中4、结构化输出可靠的 JSON用 Function Calling、JSON mode、约束解码5、Meta Prompting用大模型来优化提示词基于参考答案做自动化评测把调 prompt变成能迭代的工程6、提示词结构化用结构化模板写复杂指令可维护、可复用、稳定性更高7、防注入关键词过滤、安全护栏、指令边界设计、该拒答时拒答用户输入永远当不可信数据处理补充真正落地时关键提示词往往需要和领域、业务专家一起打磨他们知道什么是对的输出你知道怎么让模型稳定产出需要配合三、检索增强生成RAG核心目标给模型接上私域知识和实时信息降低幻觉企业里最容易落地的场景1、完整流程建立索引文档解析、文本切片、向量化、索引存储检索生成知识检索、答案生成、引用溯源2、向量检索原理Embedding 的文本向量化机制、相似度计算余弦相似度、点积3、向量数据库选型FAISS轻量、适合原型和中小规模Milvus生产级Elasticsearch已有 ES 技术栈、要做混合检索时直接使用4、混合检索向量检索语义 BM25关键词融合纯向量对专有名词、编号、代码这类需要精确匹配的东西经常召不回需要补充 BM255、常见优化方法知识治理、Query 改写、多路召回HyDE 假设文档、多角度改写、切片策略优化、引入 Rerank 重排、元数据过滤Contextual Retrieval切片前先给每个 chunk 补一段所属上下文再做向量化能显著降低切碎后丢失语境导致召不回的问题Agentic RAG把检索做成 Agent 能反复调用的工具让模型自己决定检索几次、检索什么、要不要换个 query 再来一次这是 RAG 和 Agent 的交汇点也是当前把复杂问答做扎实的主流方向6、自动化评测Ragas、TruLens 等框架核心指标忠实度、答案相关性、上下文召回率召回和生成分开看先确认召回到了正确的内容再评估生成质量7、多模态 RAG图文混合知识库下图像、表格的索引与检索方法8、GraphRAG基于知识图谱做实体关联增强检索适合多跳、复杂关系推理的场景四、Agent 智能体应用核心目标从调一次大模型进化到让模型自己规划、调工具、把任务干完1、基础架构规划、感知、执行、记忆短期记忆、长期记忆四个组件怎么协作2、工具调用Function Calling 的工作原理工具设计原则描述写清楚、粒度切合适、错误信息要可读模型靠错误信息自我纠正MCP 协议、A2A 协议、Skills 各自解决什么问题3、工作流 vs 自主规划能用固定工作流解决的不要上自主 Agent因为自主性越高越难调试、越贵、越不可控理解什么时候用编排好的工作流、什么时候让大模型自己规划4、常见设计模式单 AgentReAct 循环、Plan-and-Execute多 Agent串行、并行、主从、分层5、原型构建能力任务分解、角色划分的思路能基于成熟框架搭出业务 Agent 原型6、上下文工程Context EngineeringAgent 出问题大部分原因是上下文没管好每一步往窗口里塞什么历史怎么压缩、记忆怎么取回、工具返回结果怎么裁剪、无关信息怎么剔除7、记忆系统短期记忆当前对话、长期记忆持久化存储 按需检索别把所有东西都堆进上下文该外置的外置、用到再取8、工程可靠性设计任务中断恢复、幂等性设计、循环检测、超时与降级处理Agent 本质上还是个分布式服务该有的容错一样不能少9、评测与迭代任务完成率、工具调用准确率等指标Agent 评测比单轮问答难因为完成任务的路径不唯一要区分轨迹评测过程对不对和结果评测最终对不对两者都要看五、大模型应用工程实践核心目标把 Agent 原型变成高并发、安全、可上线的线上服务1、主流 Agent 开发框架LangChain、LangGraph、Spring AI 的架构和组件按场景和团队技术栈选型2、可观测性LangSmith、LangFuse 等平台能追踪每一步的输入输出、token 消耗、延迟3、内容安全与合规安全护栏敏感问题拒答或转人工防止违法违规、歧视偏见、隐私泄露、幻觉信息输出硬约束这是上线的前提4、监控与治理审计日志、用户问答记录、异常告警理解数据飞轮根据线上真实数据怎么优化prompt、知识库和评测集5、成本与性能优化QPS 限流与多级队列、语义缓存、Prompt 压缩、Prompt 缓存稳定前缀复用、Context 截断、降级策略6、应用安全身份鉴权、网络隔离、密钥管理、最小权限原则六、大模型微调原理核心目标对 Agent 开发工程师这部分不需要自己动手训理解原理、能判断要不要微调就够了1、训练原理预训练和微调的区别2、机器学习、深度学习、神经网络之间的层次关系3、核心概念模型参数权重、损失函数、知识蒸馏4、梯度下降算法训练超参的作用batch size、learning rate、eval steps、epoch5、全参微调 vs 高效微调Prompt Tuning、LoRA / QLoRA 的适用场景和资源消耗差异6、模型对齐RLHF人类反馈强化学习与 DPO直接偏好优化的基本思想7、常用评测指标分类任务Accuracy / F1、文本生成BLEU / ROUGE、推理能力基准HumanEval / MMLU有技术底子的人正站在AI大模型开发的黄金入口先问自己一个问题你写了这么多年代码薪资是不是已经很久没动了面试的时候“会Spring Boot”“会Vue”会MySQL已经变成了基本操作没有人在乎了。大家都会的东西就不值钱了。但另一边有人在疯狂涨薪拉勾、BOSS直聘上“AI应用开发”“大模型开发”Agent开发的岗位数量在过去一年翻了3倍薪资中位数比同级别后端开发高出 40%-60%。不是因为他们比你聪明而是因为他们踩对了赛道。你可能觉得我又不是搞算法的大模型跟我有什么关系这就是最大的误区。AI大模型应用开发 ≠ 训练大模型说清楚一点训练大模型的是那几家大厂但用大模型做应用的是千千万万的普通企业和团队。而这些团队需要的不是PhD而是——能用大模型API搭出可用产品的应用开发者能设计Agent工作流、调用工具链的Agent工程师能把RAG、Function Calling、多轮对话落地到真实业务的AI全栈这些活儿有编程基础的你完全能干。你需要补的不是算法基础而是AI开发的技术栈和工程思维。Agent开发为什么是程序员最好的切入点因为Agent开发本质上就是用自然语言编程——而这恰恰需要你已有的工程能力你有代码功底 → 理解Function Calling、工具调用、API集成比零基础快10倍你有系统设计经验 → 设计多Agent协作架构、状态管理、错误处理逻辑一脉相承你懂工程化 → 部署、监控、性能优化这些AI项目同样需要你理解数据 → RAG系统的数据清洗、向量检索、效果调优你的DB经验直接复用说白了你已有的能力是资产不是沉没成本。差的只是AI这一层的认知和工具链。学完之后你值多少钱转型 从传统后端/前端转AI应用开发打开薪资天花板跳槽议价权拉满升职 在现有团队主导AI项目落地从写代码的变成定方向的独立 用Agent开发能力做SaaS产品、接AI外包项目技术变现多一条腿不可替代 当AI能写CRUD了你是那个用AI写代码的人而不是被AI替代的人这不是危言耸听。GitHub Copilot已经能写出70%的CRUD代码了纯执行层面的程序员价值在快速缩水。但能用AI构建AI应用的人目前严重不够用。这门课会教你什么面向有编程基础的开发者从AI大模型应用开发的工程实践出发✅ 大模型API调用与Prompt工程实战✅ RAG系统搭建从数据处理到向量检索全流程✅ Agent开发Function Calling、工具链、多步推理✅ 多Agent协作与工作流编排✅ 真实项目落地从需求到部署的完整工程链路不讲虚的全是能直接用在项目里的东西。 AI大模型应用开发课程有编程基础这就是你的下一个赛道“程序员最大的风险不是技术过时而是用旧技术赚新钱的心态。”你可能还在想再等等看——但AI这个赛道窗口期就这么长。等大模型开发变成标配技能的时候你就不是先行者了而是追赶者。你有技术底子这是你最大的优势。别浪费它。