Il fine-tuning prende un modello che comprende già il linguaggio e ne ritocca i pesi su un dataset più piccolo e mirato. Howard & Ruder (2018) hanno definito con ULMFiT la ricetta moderna del transfer learning per l'NLP, e Devlin et al. (2019) hanno reso dominante con BERT il paradigma "prima pre-addestramento, poi fine-tuning".
Rispetto al prompting, il fine-tuning può incorporare un comportamento in modo permanente ed economico in fase di inferenza, al prezzo di un ciclo di addestramento e di un dataset da mantenere.