NLP与大模型难度 ★★☆☆☆
温度系数
温度越高AI越"有创造力"(也越容易胡说),温度越低越"严谨"
分享:
📖 详细解释
🎯 一句话定义
温度越高AI越"有创造力"(也越容易胡说),温度越低越"严谨"
⚙️ 工作原理
Temperature调节softmax的输出分布:T→0时,最大概率token接近100%,输出确定;T→∞时,所有token概率均匀分布,输出完全随机。写作设0.7-1.0,代码设0.2-0.3
💡 生活类比
"温度像骰子的"温度":温度=0是铅骰子(每次都一样),温度=0.7是正常骰子(有变化但不离谱),温度=2是灌了水银的骰子(结果很随机)"
🌍 真实应用
写小说用高温度(0.8-1.0)求创意,写代码用低温度(0.2)求准确,事实问答用0更靠谱