核采样（Nucleus Sampling，Top-p）

Holtzman 等人（2020）指出，总是选择概率最高的 token 会让生成的文本平淡又重复，而从完整分布中采样又会让文本语无伦次。他们提出的解决方案——核（top-p）采样——把每一次选择限制在一个动态的 token“核”内，这些 token 的概率之和为 p，然后再从这个集合中采样。

在大多数聊天 API 中，top-p 与温度（temperature）搭配使用，以在多样性与连贯性之间取得平衡；与之相关的 top-k 方法则是保留固定数量的候选 token。