温度
Temperature
中级通用温度(Temperature)是模型生成回答时控制候选内容选择随机程度的参数。它帮你在稳定输出和多样表达之间取舍:客服答复可调低,活动标题创意可适当调高。
你可能会说:「我想让 AI 写的客服回复更稳定,别每次换一种说法,该调哪里?」
读之前建议先了解
动手看看咖啡店海报标题
「请为咖啡店的周末促销海报补全标题:今天来一杯▍」下一个词会是什么?
这个例子演示温度怎样影响标题的下一个词:低温时更偏向高分的「拿铁」,但不等于只会选它。
试试把温度改成 0,再抽样几次:每次都会选最高分的「拿铁」,适合需要稳定措辞的场景。
再试试改成 1.8:候选词的概率会更接近,「惊喜」和「阳光」更有机会出现,但不太搭的「螺丝」也可能被选中。
要点温度会怎样影响模型的回答?
- 1
它影响生成时的选择
模型生成文本时,会为接下来可能出现的内容分配概率。温度改变它从这些候选中做选择的方式:调低后更倾向于高概率选项,调高后较少见的选项也更有机会出现。
- 2
高低取决于你的任务
你在做订单分类、提取字段时,通常希望输出稳定,可以试着调低温度。你在为新功能想名称时,需要多种方向,可以试着调高。具体效果还会受模型和提示词影响。
- 3
低温也不能保证一致
把温度调到最低,不等于每次都会得到完全相同的文字,也不等于内容一定正确。模型、服务设置和输入上下文都可能影响结果;如果答案要进入业务流程,还需要校验。
容易混淆的地方
温度调的是生成时的随机程度,不负责告诉模型该回答什么;任务要求不清楚,先改提示词。它也不是输出格式的约束:你要让接口稳定返回指定字段,可以使用结构化输出并做数据校验,而不只是把温度调低。不同模型或服务对温度的支持和取值方式可能不同,调参前先看所用接口。
什么时候用
适合用
- 为 App 生成多组推送标题时,适当调高温度,再由你筛选符合品牌语气的候选。
- 后台用模型把用户反馈归类时,试着调低温度,减少同类反馈被写成不同分类的情况。
- 给 AI 客服生成措辞相近的常见问题回复时,试着调低温度,再检查回复是否符合知识库。
不适合用
- 支付金额、库存数量要取自业务数据时,直接查询数据库或调用接口,别靠调温度让模型猜。
- 接口必须返回可解析的固定字段时,用结构化输出和字段校验;温度不能替你约束数据格式。
- 需要确认政策或产品信息是否属实时,查可信资料并核对答案;调低温度不能消除编造。
练一练选一个答案,看看解释
你做了一个 AI 客服功能,希望同一类退款问题的回复措辞较稳定,而且不能编造退款规则。接下来怎么做更合适?
让 AI 帮你做复制给 AI Agent 直接用
请检查这个 AI 客服请求是否支持设置温度。如果支持,先使用较低温度,让同类问题的回复措辞更稳定;同时在提示词中提供退款规则,并校验回复是否有规则依据。请说明温度的取值依据,以及它不能保证什么。