CHAO AI LEARNING PATH

AI 知识库

从基础认知到真实项目,把零散知识整理成可以持续学习的路径。 继续学习 Temperature & Top-P——控制 AI“自由发挥”的程度
22学习模块 119已上线课程 83%当前章节
LEARNING MODULES

选择学习方向

幻觉与可靠回答Temperature & Top-P——控制 AI“自由发挥”的程度

06 幻觉与可靠回答

Temperature & Top-P——控制 AI“自由发挥”的程度

前面两篇已经讲了 Prompt 约束和 RAG 检索。Temperature 和 Top-P 负责的是另外一件事:当模型开始往下生成时,是更稳一点,还是更敢自由发挥一点。

一句话回答

Temperature 和 Top-P 不是“让 AI 更聪明”的按钮,而是控制它生成时有多稳、有多敢发挥的参数。 前者管发散程度,后者管候选范围;事实任务收一点,创意任务放开一点,体验会顺得多。

业务场景推荐参数 recommended setting
参数当前位置 current setting
0.10
保守 平衡 发散
0.80
窄候选 适中 全集
参数调节 × 输出质量 interactive view
当前示例:场景 A · 法律 / 合规 / 客服(换左侧场景,问题和候选分布会一起变)
可复用 Prompt copy ready
事实任务先低温,创意任务再放开;Top-P 先从 0.8 到 0.95 试起,再根据任务微调。
最后总结 final rule
Temperature 控制“敢不敢发散”,Top-P 控制“从多大的候选范围里选”。

模型生成时不是只有一个答案,而是很多候选。低温会更偏向高概率选项,Top-P 则决定要保留多大一圈候选;一个管幅度,一个管范围。

本节小结

  • Temperature 越低,输出越稳;越高,表达越敢放开。
  • Top-P 越小,候选越窄;越大,候选越宽。
  • 事实问答、客服口径、合规回复更适合保守参数。
  • 创意写作、标题、脑暴更适合适度放开。