一篇文章搞定 60 核心术语附实战案例和黑话速查看懂业内对话不再懵很多刚接触大模型开发的同行都有个感受技术文档看得懂但一进群里听人聊天就懵——“我们做了 RAG”“支持 Function Calling”“基于 ReAct 模式”……每个字都认识连在一起就是天书。这篇整理了一份大模型应用开发的术语对照表按主题分组标注主流译法附实战案例和黑话速查适合收藏备用。一、大模型基础术语英文中文翻译说明LLM (Large Language Model)大语言模型大模型业内一般直接说大模型TokenToken词元、标记通常不翻译直接用 TokenPrompt提示词提示语业内主流叫提示词System Prompt系统提示词给大模型的任务指令、角色设定和规则约束User Prompt用户提示词用户实际输入的内容Temperature温度控制输出随机性0 最稳定2 最发散Top-K / Top-PTop-K / Top-P核采样Top-K 限制候选词数量Top-P 限制候选词累计概率一般不翻译Embedding嵌入向量化、词嵌入业内常说向量化Context Window上下文窗口大模型一次能记住的内容长度Fine-tuning微调用领域数据调整模型权重改变模型行为RAG (Retrieval-Augmented Generation)检索增强生成业内直接说 RAG 居多Hallucination幻觉胡编、编造大模型生成看似合理但事实错误的内容Few-shot少样本少示例给几个例子让模型照着学Zero-shot零样本不给例子直接让模型回答CoT (Chain of Thought)思维链让模型一步步想再答提升复杂推理质量二、Agent 核心术语英文中文翻译说明Agent智能体代理业内主流叫智能体Function Calling函数调用工具调用大模型根据需求自主决定调用哪个外部函数OpenAI 官方译函数调用Tool Use工具使用工具调用ReActReAct推理-行动一般不翻译全称是 Reasoning ActingAgent 边思考边行动的循环模式Reasoning推理Agent想的环节Acting行动Agent做的环节Observation观察ReAct 循环里看结果的环节Plan-and-Execute规划-执行Agent 先拆解任务再逐步执行的编排模式Multi-Agent多智能体多 Agent多个 Agent 分工协作Orchestrator编排器调度器统一调度多个 Agent 的组件Trajectory轨迹Agent 执行全过程的完整记录含思考、行动、观察Human-in-the-loop人机协同人工介入关键环节暂停等人审核后再继续Guardrails护栏输出约束防止模型输出违规、越界或有害内容Memory记忆Agent 跨步骤、跨会话的状态保存三、RAG 相关术语英文中文翻译说明Vector Database向量数据库专门存储和检索向量的数据库如 Milvus、ChromaVector Store向量库向量存储存向量检索能力的统称可独立或基于向量数据库Embedding Model嵌入模型向量化模型把文本转成向量的模型Chunking切片分块、切块文档切分成小段Chunk切片块切分后的最小单位Indexing索引离线建立可检索的数据结构如 HNSW 图Retrieval检索在线从向量库找相似内容Top-KTop-K前 K 个一般不翻译Similarity Search相似度搜索按相似度查找Cosine Similarity余弦相似度最常用的相似度算法L2 NormalizationL2 归一化让点积等于余弦相似度HNSWHNSW分层可导航小世界图一般不翻译主流向量索引算法O(log n) 检索Re-ranking重排序检索后用更精细模型重新排序提升精度Hybrid Search混合搜索向量搜索 关键词搜索联合兼顾语义和精确匹配四、部署与工程术语英文中文翻译说明Local Deployment本地部署装在自己机器上Private Deployment私有化部署装在公司内网OpenAI-Compatible APIOpenAI 兼容接口接口格式跟 OpenAI 一样可无缝替换Inference推理模型加载后生成结果的过程Inference Engine推理引擎推理框架加载模型并提供 API 的服务如 vLLM、OllamaQuantization量化模型压缩技术如 Q4_K_M 让 float32 压成 4bitGPU Memory显存跑模型的硬件门槛决定能跑多大模型Batch Processing批处理一次性提交多条请求提升吞吐Streaming Response流式响应模型边生成边返回不用等全部生成完Concurrency并发同时处理的请求数Throughput吞吐量单位时间处理量Latency延迟响应快慢五、框架与协议英文中文翻译说明LangChainLangChain不翻译Python 生态主流LangChain4jLangChain4jJava 版 LangChainSpringAISpringAI不翻译Spring 官方 AI 框架Semantic KernelSemantic Kernel语义内核微软的 .NET AI 框架一般不翻译LlamaIndexLlamaIndex不翻译专注 RAGMCP (Model Context Protocol)模型上下文协议Anthropic 2024 年推出的标准OpenAI Function CallingOpenAI 函数调用六、质量评估术语英文中文翻译说明LLM-as-a-Judge大模型评审LLM 打分用一个大模型给另一个大模型的输出打分BLEUBLEU不翻译机器翻译评估指标衡量 n-gram 重合度chrFchrF不翻译字符级 F 值对中文更友好ROUGEROUGE不翻译文本摘要评估指标衡量召回率Ground Truth基准答案真值、标准答案评估模型输出时的参照标准Reference Translation参考译文A/B TestingA/B 测试七、实战示例这些术语在一个翻译工具项目里怎么落地光看术语表容易忘下面用一个真实的翻译工具项目做案例看看这些术语怎么在代码里长出来。项目背景给 Trados Studio 开发一个大模型翻译插件调公司内网部署的 DeepSeek 大模型做汽车维修手册中英翻译。7.1 术语落地对照项目里的代码模块对应的标准术语在项目里干什么TermDatabaseTermbase / 术语库加载 1800 条专业术语翻译时强制约束KbSearcherVector Retriever / 向量检索器从 25 万条历史翻译里找最相似的 3 条TagPlacerTag Handler / 标签处理器保留原文格式标签防止译文标签丢失DeepSeekApiClientLLM Client / 大模型客户端调 DeepSeek API构造 Prompt解析返回翻译记忆库TMTranslation Memory历史翻译对的存储few-shot 注入Few-shot Prompting把相似句对作为示例塞进 Prompt泄漏防御Prompt Leakage Defense检测模型是否把系统提示词当译文输出并剔除7.2 一个翻译请求的完整流程示例原文检查差速器油液液位并补充 │ ▼① 术语库匹配TermDatabase 命中差速器 → differential强制约束 油液 → fluid强制约束 │ ▼② 向量检索KbSearcher / RAG bge-m3 把原文向量化 与 25 万条历史向量做余弦相似度 Top-3 命中 检查变速器油液液位 → Check transmission fluid level 更换差速器油 → Replace differential fluid │ ▼③ 分层 Prompt 构造 [system] 你是专业翻译助手... [user] 术语强制约束 差速器 - differential 油液 - fluid 领域参考翻译few-shot 原文检查变速器油液液位 译文Check transmission fluid level 待翻译原文 检查差速器油液液位并补充 只返回译文不要解释 │ ▼④ 大模型调用DeepSeek API POST /v1/chat/completions temperature: 0.3稳定优先 │ ▼⑤ 后处理TagPlacer 泄漏防御 校验标签完整性 检测并剔除泄漏的系统提示词 │ ▼译文输出Check differential fluid level and top up7.3 用术语重新描述这个项目“我们做了一个私有化部署的翻译智能体基于OpenAI 兼容接口调公司内网的 DeepSeek 大模型。核心能力是RAG——把 25 万条历史翻译用bge-m3做Embedding存进自建的向量库翻译时做Top-K检索把相似句对作为few-shot注入 Prompt。术语库通过人工规则强制约束不靠模型猜。目前是单轮流水线架构下一步要升级成ReAct模式让Agent自主决定要不要查术语、要不要查记忆。”八、业内黑话速查多场景版8.1 跟领导汇报时黑话大白话“我们做了 RAG”“翻译时先查历史记忆库把相似句对喂给大模型参考”“支持 Function Calling”“大模型自己决定要不要查术语、要不要查记忆”“基于 ReAct 模式”“大模型边思考边行动不是写死流程”“私有化部署”“模型装在公司自己服务器上数据不出内网”“Agent 中台”“多个智能体统一调度管理的平台”“Prompt 工程”“给大模型写指令的技巧”“向量库”“把文本转成数字向量按相似度查”“Embedding”“把文字变成数字向量”“微调”“用我们自己的数据再训练一版模型”“上下文窗口”“大模型一次能记住多少内容”“幻觉”“大模型一本正经地输出错误事实”8.2 跟产品经理对需求时黑话大白话“这个要做 RAG”“回答用户前先去知识库找相关资料喂给大模型”“需要 Function Calling”“让大模型自己决定调哪个接口”“走 Agent 模式”“不是一问一答是分步执行任务”“加 Guardrails”“防止模型乱说话加输出校验”“Human-in-the-loop”“关键步骤暂停让人审一下再继续”“走 Multi-Agent”“多个 AI 分工比如一个翻译一个审校”“做 Prompt 优化”“把指令写得更准提升输出质量”“Few-shot 注入”“给模型几个例子让它照着学”8.3 跟技术同事讨论时黑话大白话“上 HNSW”“向量检索从全表扫描换成图索引快几个数量级”“做量化”“模型从 float32 压成 4bit/int8显存省一半”“走流式响应”“模型边生成边返回不用等全部生成完”“调一下 Top-K”“检索时多召回几条”“做 Re-ranking”“检索完用精细模型重排一遍精度更高”“混合搜索”“向量搜索 关键词搜索一起上兼顾语义和精确”“LLM-as-Judge”“用大模型给大模型打分”“上 MCP”“用统一协议接外部工具不用每个都写适配”8.4 面试时的高频说法黑话想表达的能力“我做过 RAG 全流程”数据切分、向量化、检索、注入都会“实现过 Function Calling”不只会调 API还懂让模型自主决策工具调用“搭过 ReAct Agent”理解 Agent 的思考-行动-观察循环“做过 Prompt 工程”会写系统提示词、会防泄漏、会调参“做过私有化部署”懂 Ollama/vLLM、懂显存管理“做过 LLM 评估”会用 BLEU/chrF、会做 A/B 测试8.5 甲方/供应商沟通时黑话大白话“我们做了多 Agent 协同”问他哪几个 Agent怎么分工怎么调度“支持 Function Calling”问他模型自己决策还是代码写死流程“基于 ReAct”问他Agent 怎么知道何时停止“做了反馈学习闭环”问他人工修订怎么采集怎么回流“向量库支持亿级”问他用的什么索引QPS 多少延迟多少“质量评估自动化”问他用的什么指标LLM-as-Judge 怎么校准说真的这两年看着身边一个个搞Java、C、前端、数据、架构的开始卷大模型挺唏嘘的。大家最开始都是写接口、搞Spring Boot、连数据库、配Redis稳稳当当过日子。结果GPT、DeepSeek火了之后整条线上的人都开始有点慌了大家都在想“我是不是要学大模型不然这饭碗还能保多久”我先给出最直接的答案一定要把现有的技术和大模型结合起来而不是抛弃你们现有技术掌握AI能力的Java工程师比纯Java岗要吃香的多。即使现在裁员、降薪、团队解散的比比皆是……但后续的趋势一定是AI应用落地大模型方向才是实现职业升级、提升薪资待遇的绝佳机遇这绝非空谈。数据说话2025年的最后一个月脉脉高聘发布了《2025年度人才迁徙报告》披露了2025年前10个月的招聘市场现状。AI领域的人才需求呈现出极为迫切的“井喷”态势2025年前10个月新发AI岗位量同比增长543%9月单月同比增幅超11倍。同时在薪资方面AI领域也显著领先。其中月薪排名前20的高薪岗位平均月薪均超过6万元而这些席位大部分被AI研发岗占据。与此相对应市场为AI人才支付了显著的溢价算法工程师中专攻AIGC方向的岗位平均薪资较普通算法工程师高出近18%产品经理岗位中AI方向的产品经理薪资也领先约20%。当你意识到“技术AI”是个人突围的最佳路径时整个就业市场的数据也印证了同一个事实AI大模型正成为高薪机会的最大源头。最后我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我整理出这套 AI 大模型突围资料包【允许白嫖】✅从入门到精通的全套视频教程✅AI大模型学习路线图0基础到项目实战仅需90天✅大模型书籍与技术文档PDF✅各大厂大模型面试题目详解✅640套AI大模型报告合集✅大模型入门实战训练这份完整版的大模型 AI 学习和面试资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】①从入门到精通的全套视频教程包含提示词工程、RAG、Agent等技术点② AI大模型学习路线图0基础到项目实战仅需90天全过程AI大模型学习路线③学习电子书籍和技术文档市面上的大模型书籍确实太多了这些是我精选出来的④各大厂大模型面试题目详解⑤640套AI大模型报告合集⑥大模型入门实战训练获取方式有需要的小伙伴可以保存图片到wx扫描二v码免费领取【保证100%免费】