La recherche sur l’alignement vise à garantir que des modèles performants font ce que leurs concepteurs et leurs utilisateurs veulent réellement. Parmi les techniques concrètes : l’apprentissage à partir des préférences humaines (Christiano et al., 2017), le suivi d’instructions via le RLHF (Ouyang et al., 2022) et l’auto-amélioration guidée par des règles, comme dans la Constitutional AI (Bai et al., 2022).
L’alignement est un problème ouvert, pas une case à cocher : plus les modèles gagnent en capacités, plus il devient difficile — et non plus facile — de spécifier et de vérifier le comportement attendu.