La investigación en alineación busca garantizar que los modelos capaces hagan lo que sus diseñadores y usuarios realmente quieren. Entre las técnicas prácticas se encuentran el aprendizaje a partir de preferencias humanas (Christiano et al., 2017), el seguimiento de instrucciones mediante RLHF (Ouyang et al., 2022) y la automejora guiada por reglas, como en Constitutional AI (Bai et al., 2022).
La alineación es un problema abierto, no una casilla ya marcada: a medida que los modelos ganan capacidad, especificar y verificar el comportamiento deseado se vuelve más difícil, no más fácil.