LLM 的技术定义:大语言模型是一种 Transformer 神经网络,在广泛的文本语料上训练,用来建模在给定前文的条件下下一个 token 出现的概率。Brown 等人(2020)证明,当规模足够大时,这一单一目标就能让模型仅凭提示完成许多从未专门训练过的任务——正是这种上下文学习(in-context learning)能力定义了现代 LLM。
ChatGPT、Claude、Gemini 和 Grok 都构建在 LLM 之上。它们在训练数据、规模、对齐方式和工具配套上各不相同,因此对同一个问题给出的答案也可能大相径庭。
LLM 是什么?用大白话讲清它的含义
通俗地说,LLM 的含义很简单:大语言模型是一个读过海量文本、并从中学会了语言统计规律的程序。“大”既指训练数据之多,也指模型本身之大——现代 LLM 拥有数十亿乃至更多的参数,也就是存储所学知识的可调权重。如今,大多数实验室已不再公布其旗舰模型的确切规模。
当你向 LLM 提问时,它并不是去查找答案,而是一个 token 一个 token 地写出回复,每一步都选择一个最可能延续前文的内容。这就是 LLM 既流畅又灵活的原因,也是它们会一本正经地说错话的原因。
大语言模型是如何训练的
训练通常分阶段进行,每个阶段都建立在上一阶段的基础上:
- 1预训练。在超大规模文本集合上进行下一个 token 预测,让模型学会语言、事实知识和推理模式。
- 2
- 3
LLM 能做什么、不能做什么
LLM 能胜任各种各样的语言工作:
- 以任意语气起草、编辑和改写文本
- 总结长文档,以及在不同语言之间翻译
- 回答问题,并一步步讲解概念
- 编写、审查和讲解代码
- 解决需要多步推理的问题
对 MultipleChat 的意义
没有哪个 LLM 能样样最强。MultipleChat 让 ChatGPT、Claude、Gemini、Grok 和 Perplexity 针对同一个提示词并排作答,你可以对比它们的答案,让一个模型的长处弥补另一个模型的盲区。了解对比功能如何运作。