大模型的“双面人格”
在日常的模型使用中，你有没有好奇过为什么同样的一个问题，大模型会给出不同的回答。就比如“海边的日出怎么样”，它可能会说“太阳缓缓沉入海平面，天空呈现出橙色和红色的渐变，光线逐渐变暗。”，也有可能说“天空像被打翻的调色盘，金色、绯红和靛紫泼洒在云层和波光粼粼的海面上，最后连害羞的太阳也悄悄躲进了大海温暖的怀抱。”在这现象的背后，隐藏着一个鲜为人知的秘密——采样技术，虽然大模型在理论上应该像精密计算器一样，对相同输入给出相同回答，但实际上它们被设计成了"有意的不确定"。
大模型预测概率图
这种不确定性并非缺陷，反而是大模型强大能力的关键。模型并非总是选择那个“最安全”、最常见的回答，而是被赋予了在多种可能性中进行选择的能力。这种看似不合逻辑的设计，恰恰是大模型创造力的源泉，也是它能模拟人类自然、多变对话的核心。这使得模型能够在严谨与创造之间自如切换——有时像一丝不苟的学者，有时又像才华横溢的诗人。
那么，这两种截然不同的输出模式——精确性与创造性——具体是怎样的呢？在我们深入探讨实现这种切换的采样技术之前，让我们先通过几个实例，直观地理解这两种风格的差异。
精确性与创造性
大语言模型在生成回答时，可以在两种主要倾向之间进行调整：精确性和创造性。精确性是指侧重于事实准确、逻辑清晰、表达直接。适用于需要获取可靠信息或完成具体任务的场景。创造性侧重于新颖性、想象力、表达的多样性和风格化。适用于需要灵感、探索不同可能性或进行文学艺术创作的场景。同一个问题，根据我们希望模型侧重哪种特性，它可能会给出截然不同的答案。
当让大模型描述太阳时，精确性回答 “太阳是位于太阳系中心的恒星，一颗G型主序星（黄矮星）。它主要由氢（约占74%）和氦（约占24%）组成，通过核心的核聚变反应产生能量，以光和热的形式辐射出来。其直径约为139万公里，是地球直径的109倍。”创造性回答 “太阳是天空中的金色熔炉，是白昼的王者。它慷慨地将光芒洒向大地，唤醒沉睡的生灵，为世界涂抹上温暖的色彩。日出时它是希望的使者，日落时则留下绚烂的告别。”
当让大模型描述猫时，精确性回答： “猫（学名：Felis catus）是小型食肉哺乳动物，属于猫科。它们通常具有柔软的毛皮、可伸缩的爪子、敏锐的听觉和夜视能力。家猫已被人类驯化数千年，是常见的宠物。”创造性回答： “猫是优雅而独立的精灵，时而慵懒地蜷缩在阳光下打盹，时而像个好奇的探险家巡视着它的领地。它们用神秘的眼神和轻柔的咕噜声与世界交流，步态轻盈，仿佛踏着无声的旋律。”
既然模型能够产生如此不同风格的回答，我们又该如何引导它在特定场景下倾向于精确或是创意呢？这就要归功于其内部的“决策”机制——也就是我们即将介绍的采样技术了。
采样机制
"采样"正是实现这种控制的关键技术。它决定了模型在生成文本时，如何从众多可能的下一个词中进行选择。
采样主要有三种主流技术：
温度采样：通过调节概率分布的"陡峭度"，控制结果的随机性
Top-k采样：限制选择范围，只从概率最高的k个候选词中抽取
Top-p采样（核采样）：动态设置阈值，只从累积概率达到p的候选集中选择
与从字典中查找确定答案不同，采样更像是一场精心设计的概率游戏。温度参数就像是调节AI冒险精神的滑块，直接影响着模型的"表达个性"。
这三种技术可以单独使用，也常常组合应用，形成更精细的控制机制。接下来，让我们详细探讨其中最基础也最直观的温度参数。
温度
温度是一个数字，用来调整概率分布的集中程度——温度越低（比如0.1），概率就会产生更"尖锐"的分布，更倾向于选择分数最高的选项，结果更确定；而温度越高（比如2.0），则产生更"平滑"的分布，各个选项被选中的机会更加均衡，结果更多样化。这种灵活的调节机制使我们能够根据不同场景的需求来控制模型输出的确定性或随机性。
温度参数效果图
如上图所示，当模型接收"今天天气"这一输入提示后，大模型首先会生成一组原始预测概率：回答"晴朗"的概率为0.55，"很好"的概率为0.25，"适合出门"的概率为0.15，"出门要做防晒"的概率为0.05。这组数值代表模型在标准温度设置（通常为1.0）下的原始输出分布。
图表下方直观呈现了温度参数调整对这一概率分布的改变效果。当我们降低温度时（图表左侧），概率分布发生了显著变化：原本概率最高的"晴朗"的概率从0.55大幅提升至0.80，而其他选项的概率则相应降低，"很好"降至0.10，"适合出门"降至0.07，"出门要做防晒"降至0.03。这种低温效应实质上放大了原始分布中的概率差异，使高概率选项变得更加主导，从而产生更加确定和可预测的输出结果。
相反，当我们提高温度时（图表右侧），我们观察到概率分布趋向均匀化：原本占优势的"晴朗"的概率从0.55显著下降至0.28，而原本概率较低的选项则获得了提升，"很好"上升至0.26，"适合出门"上升至0.24，最显著的是原本概率最低的"出门要做防晒"从0.05大幅上升至0.22。这种高温效应实质上压缩了不同选项之间的概率差异，创造了一个更加平衡的选择环境，增加了模型输出的不确定性和多样性。
温度的作用
温度的这种调节在实际应用中具有重要价值。当用户需要模型提供精确、一致且可靠的回答（如事实查询、指令执行或代码生成）时，较低的温度设置能够确保模型倾向于选择最有把握的答案。而当用户期望获得创意性、多样化的内容（如创意写作、故事生成或头脑风暴）时，较高的温度设置则能够鼓励模型探索更广泛的可能性，产生更加丰富多变的输出。
温度实质上为大模型提供了一个简单而强大的控制机制，使用户能够根据具体需求在确定性和创造性这两种相互竞争的特性之间找到最佳平衡点。通过适当调整温度，同一模型可以灵活适应从严格遵循指令到自由发挥创意的各种应用场景，大大增强了生成式模型的实用性和适应性。
总结
温度是控制大模型输出的重要机制，它通过调整概率分布的"尖锐度"来平衡模型的确定性和创造性。低温度（如0.1）会产生更集中的分布，使模型倾向于选择概率最高的词，输出更加确定；高温度（如2.0）则会平滑分布，使各选项机会更均等，产生更多样化的结果。这一简单而强大的机制使我们能够根据不同需求——无论是需要准确答案的事实查询，还是追求创意的内容生成——来灵活调整模型的行为，从而获得最适合特定场景的输出。
在下一篇文章中，我们将介绍“Top-k”方法，这种方法提供更精确的概率分布控制，避免极端温度值的问题，并减少对原始分布的依赖性。敬请期待！
相关文章
