El red teaming somete un modelo a pruebas de estrés intentando que falle, provocando respuestas inseguras, sesgadas o no permitidas para poder corregirlas antes del lanzamiento. Perez et al. (2022) demostraron que esto puede automatizarse en parte, usando un modelo de lenguaje para generar casos de prueba adversarios contra otro y sacando a la luz decenas de miles de fallos a gran escala.
El red teaming complementa la investigación sobre jailbreaks e inyección de prompts y hoy forma parte habitual de un lanzamiento responsable de modelos.