Dosovitskiy et al. (2021) dividiram uma imagem em blocos (patches) de tamanho fixo, trataram cada um como um token e alimentaram um Transformer padrão com essa sequência. Com dados de pré-treinamento suficientes, esse Vision Transformer igualou ou superou as principais redes convolucionais usando menos poder computacional, demonstrando que a self-attention é uma arquitetura geral, e não exclusiva da linguagem.
Hoje os ViTs são comuns em modelos multimodais, nos quais imagem e texto são processados por mecanismos de Transformer semelhantes.