A retropropagação calcula quanto cada peso de uma rede contribuiu para o erro de saída, usando a regra da cadeia para propagar os gradientes da função de perda de volta por todas as camadas. Rumelhart, Hinton e Williams (1986) a popularizaram como uma forma prática de treinar redes multicamadas, tornando o deep learning viável.
Todos os modelos deste glossário — de CNNs a Transformers — são treinados com retropropagação combinada a um otimizador como o Adam.