训练 2026 年更新

微调(Fine-Tuning)

定义

在额外的专业数据上继续训练预训练模型,使其适应某个领域、任务或风格,而无需从零开始构建。

微调是在一个已经理解语言的模型基础上,用更小、更有针对性的数据集微调其权重。Howard 和 Ruder(2018)通过 ULMFiT 确立了 NLP 领域现代迁移学习的方法;Devlin 等人(2019)则借助 BERT 让“先预训练、再微调”成为主流范式。

与提示词相比,微调可以把某种行为永久固化到模型中,推理时成本也低——代价是需要一次训练,以及一个需要持续维护的数据集。

参考文献

本定义所依据的一手文献、同行评审文献和存档资料。

Universal Language Model Fine-tuning for Text Classification
Howard, J., & Ruder, S. (2018). Proceedings of ACL 2018, pp. 328–339.
BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding
Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). Proceedings of NAACL-HLT 2019.

词典与百科条目

引用本条目

MultipleChat.《微调(Fine-Tuning)》. MultipleChat AI 与 LLM 术语表,2026. https://multiple.chat/ai-glossary/fine-tuning

相关术语

实际体验一下

将同一个提示词同时发给 ChatGPT、Claude、Gemini、Grok 和 Perplexity,并排对比——用你自己的文件作为上下文,得到可以相互核对的答案。

免费试用 MultipleChat

了解更多

查看付费方案