Um jailbreak contorna as barreiras de proteção instaladas pelo treinamento de segurança. Wei et al. (2023) atribuem o sucesso a dois modos de falha — objetivos concorrentes e generalização incompatível — e Zou et al. (2023) mostraram que sufixos adversariais otimizados automaticamente podem ser transferidos entre muitos modelos, inclusive modelos comerciais fechados.
O jailbreak é diferente da injeção de prompt: o jailbreak ataca a própria política de segurança do modelo, enquanto a injeção introduz instruções às escondidas por meio dos dados que o modelo processa. Ambos são problemas de segurança ativos e ainda sem solução.