O red teaming submete um modelo a testes de estresse tentando fazê-lo falhar — provocando saídas inseguras, enviesadas ou proibidas para que possam ser corrigidas antes do lançamento. Perez et al. (2022) mostraram que isso pode ser parcialmente automatizado, usando um modelo de linguagem para gerar casos de teste adversariais contra outro e revelando dezenas de milhares de falhas em escala.
O red teaming complementa as pesquisas sobre jailbreak e prompt injection e hoje faz parte do padrão de um lançamento responsável de modelos.