Il red teaming sottopone un modello a stress test cercando di farlo fallire, cioè di ottenere output non sicuri, distorti o non consentiti, così da poterli correggere prima del rilascio. Perez et al. (2022) hanno mostrato che il processo può essere in parte automatizzato, usando un modello linguistico per generare casi di test avversariali contro un altro e facendo emergere decine di migliaia di casi di errore su larga scala.
Il red teaming integra la ricerca su jailbreak e prompt injection ed è oggi una parte standard del rilascio responsabile di un modello.