06 幻觉与可靠回答
Temperature & Top-P——控制 AI“自由发挥”的程度
前面两篇已经讲了 Prompt 约束和 RAG 检索。Temperature 和 Top-P 负责的是另外一件事:当模型开始往下生成时,是更稳一点,还是更敢自由发挥一点。
一句话回答
Temperature 和 Top-P 不是“让 AI 更聪明”的按钮,而是控制它生成时有多稳、有多敢发挥的参数。 前者管发散程度,后者管候选范围;事实任务收一点,创意任务放开一点,体验会顺得多。
业务场景推荐参数
recommended setting
参数当前位置
current setting
保守
平衡
发散
窄候选
适中
全集
参数调节 × 输出质量
interactive view
当前示例:场景 A · 法律 / 合规 / 客服(换左侧场景,问题和候选分布会一起变)
可复用 Prompt
copy ready
事实任务先低温,创意任务再放开;Top-P 先从 0.8 到 0.95 试起,再根据任务微调。
最后总结
final rule
Temperature 控制“敢不敢发散”,Top-P 控制“从多大的候选范围里选”。
模型生成时不是只有一个答案,而是很多候选。低温会更偏向高概率选项,Top-P 则决定要保留多大一圈候选;一个管幅度,一个管范围。
本节小结
- Temperature 越低,输出越稳;越高,表达越敢放开。
- Top-P 越小,候选越窄;越大,候选越宽。
- 事实问答、客服口径、合规回复更适合保守参数。
- 创意写作、标题、脑暴更适合适度放开。