GPT designa la receta de preentrenamiento generativo presentada por Radford et al. (2018): preentrenar un Transformer solo decodificador con texto sin etiquetar y después ajustarlo. Brown et al. (2020) la escalaron hasta GPT-3 (175 mil millones de parámetros) y demostraron un sólido aprendizaje few-shot en contexto, lo que estableció la plantilla que siguen la mayoría de los LLM modernos.
ChatGPT, de OpenAI, es el producto más conocido de este linaje, pero hoy «GPT» designa en general el enfoque solo decodificador basado en la predicción del siguiente token.