アライメント研究の目的は、高性能なモデルが設計者やユーザーが本当に望むことを確実に行うようにすることです。実践的な手法には、人間の選好からの学習(Christiano ら、2017)、RLHF による指示追従(Ouyang ら、2022)、Constitutional AI のようなルールに基づく自己改善(Bai ら、2022)などがあります。
アライメントは解決済みのチェック項目ではなく、未解決の問題です。モデルの能力が高まるほど、意図した振る舞いを定義し検証することは、易しくなるどころか難しくなります。