Kingma y Ba (2015) presentaron Adam, que mantiene estimaciones móviles del primer y el segundo momento de los gradientes de cada parámetro y las usa para escalar el tamaño del paso de cada parámetro. Combina las ventajas de métodos anteriores (momentum y tasas de aprendizaje adaptativas) y funciona bien con pocos ajustes.
Adam y sus variantes son los optimizadores predeterminados para entrenar grandes modelos de lenguaje y la mayoría de las redes neuronales modernas.