大语言模型的核心概念

token预测下一个最有可能的词元大模型与原有小的模型的区别训练数据的规模、参数的规模、运算量、训练资料的规模更大断词器用户输入的内容会先由断词器tokenizer将文字切分为一个个的token词元每个词元会被映射为一组数值向量嵌入embedding到模型中。Transformer将整段输入内容传入Transformer计算词元间的相关性在调整权重分配的过程中将输入内容转换为有上下文语义的数学向量。预训练与微调预训练阶段模型会接触到规模庞大的文字语料调整模型的参数第二阶段通过人工整理好的资料或特定任务资料集进行模型的微调。先人工标注的数据集这些排序资料用来训练一个奖励模型主模型根据奖励模型的回馈进行强化学习不断调整生成策略使模型更准确。大语言模型的能力与限制幻觉可能生成看似合理但实际上虚构的内容原因是引用不存在的资料或产生了错误的程序代码知识时效原因模型知识受限于训练资料的时间有效性上下文长度模型能处理的文字长度有上限超出范围的内容无法被纳入考量学习笔记源自 —《node.js生成式AI应用开发实战》