레드 팀(Red Teaming)

레드 팀은 모델이 실패하도록 유도하는 방식으로 모델을 스트레스 테스트합니다. 안전하지 않거나 편향되었거나 허용되지 않는 출력을 끌어내어, 출시 전에 수정할 수 있도록 하는 것입니다. Perez 외(2022)는 한 언어 모델로 다른 모델을 겨냥한 적대적 테스트 사례를 생성하는 방식으로 이 작업을 부분적으로 자동화할 수 있으며, 이를 통해 수만 건의 실패 사례를 대규모로 찾아낼 수 있음을 보여 주었습니다.

레드 팀은 탈옥(jailbreak) 및 프롬프트 인젝션 연구를 보완하며, 현재는 책임 있는 모델 출시의 표준 절차로 자리 잡았습니다.