Holtzman et al. (2020) demostraron que elegir siempre los tokens más probables hace que el texto generado sea insulso y repetitivo, mientras que muestrear de la distribución completa lo vuelve incoherente. Su solución, el muestreo de núcleo (top-p), limita cada elección al «núcleo» dinámico de tokens que en conjunto acumulan una masa de probabilidad p, y luego muestrea dentro de ese conjunto.
En la mayoría de las API de chat, top-p se combina con la temperatura para equilibrar variedad y coherencia; el método relacionado top-k, en cambio, conserva un número fijo de candidatos.