第30篇:低温度参数的稳定性策略:temperature=0.3 的选择依据
第30篇:低温度参数的稳定性策略:temperature=0.3 的选择依据本文是"智能助手架构设计与实现"系列第 30 篇。前文我们拆解了参数类型自动转换机制,讲解了_convert_params()如何根据param_type声明完成类型转换。本篇聚焦大模型 API 调用中一个看似只是一个数字、实则影响全局的参数——temperature(温度),讲解为什么_call_llm()使用temperature=0.3而非默认的 0.7,低温度如何保证 JSON 格式遵从度和意图识别稳定性,以及这个数字背后的工程权衡。一、问题背景:temperature 参数的影响力1.1 什么是 temperature?temperature 是大模型 API 中控制输出随机性的核心参数,取值范围通常为 0.0 到 2.0。它直接影响模型在生成下一个 token 时的概率分布:temperature = 0.0 → 贪心解码,每次选择概率最高的 token,输出几乎确定 temperature = 0.3 → 低随机性,倾向于高概率 token,输出稳定 temperature = 0.7 → 中等随机性(大多数 API 的默认值),输出有一定多样性 temperature