对齐研究旨在确保能力强大的模型真正按照设计者和用户的意愿行事。实用技术包括：从人类偏好中学习（Christiano 等人，2017）、通过 RLHF 实现指令遵循（Ouyang 等人，2022），以及 Constitutional AI 中由规则引导的自我改进（Bai 等人，2022）。
对齐是一个悬而未决的问题，而不是勾选一下就算完成的事项：模型能力越强，明确界定并验证预期行为就越难，而不是越容易。
对齐安全
2026 年更新
对齐（Alignment）
定义
让 AI 系统的行为符合人类意图和价值观的工作——这正是模型能可靠遵循指令、拒绝有害请求的原因。
参考文献
本定义所依据的一手文献、同行评审文献和存档资料。
Deep Reinforcement Learning from Human Preferences
Training language models to follow instructions with human feedback
Constitutional AI: Harmlessness from AI Feedback
词典与百科条目
- Wikipedia — AI alignment
- IBM — Think / Topics — What is AI alignment?
引用本条目
MultipleChat.《对齐（Alignment）》. MultipleChat AI 与 LLM 术语表，2026. https://multiple.chat/ai-glossary/alignment