Adam（优化器）
最常用的优化算法，为每个参数分别调整学习率，让神经网络训练更快、更稳定。
检测到异常活动，你的会话已被标记。
请确认你是真人后继续。
用准确易懂的语言，解释 2026 年你必须了解的所有 AI 术语 — 专为真正使用这些工具的人而写，而不只是写给谈论 AI 的人。
最常用的优化算法，为每个参数分别调整学习率，让神经网络训练更快、更稳定。
一种 AI 系统，不是回答一次就结束，而是调用工具、查看结果、自主判断下一步行动，从而规划并执行多步骤任务。
让 AI 系统的行为符合人类意图和价值观的工作；模型能稳定地遵循指令、拒绝有害请求，正是得益于此。
一种编程接口，让软件无需经过聊天界面即可直接与模型通信；它返回结构化数据，并按 token 计费。
模型在生成输出的每一部分时，为输入的各个部分分配重要性权重的技术，是所有 Transformer 的核心运算。
将预测误差从后向前传播、借此调整每个权重来训练神经网络的算法，几乎是所有深度学习的基础。
对每一层的输入进行归一化，让更深的神经网络也能更快、更稳定地学习的训练技术。
用于在推理、知识、编程等任务上衡量和比较模型性能的标准化测试。它适合用来排名，但无法完全替代你在自己的工作中亲自试用。
一种仅含编码器的 Transformer，经预训练可同时从两个方向读取文本，广泛用于分类、检索、信息抽取等理解类任务。
一项历史悠久的机器翻译自动评估指标，根据输出与人工参考译文在词序列上的重合程度打分。
神经网络在用新数据训练时丢失先前已掌握能力的现象，是持续更新模型时的核心难题。
一种提示词技巧，引导模型在给出最终答案前先经过中间推理步骤，可提高多步骤问题的准确率。
OpenAI 于 2022 年 11 月推出的对话式 AI 助手，让经过指令微调的大语言模型走进了大众视野。
Anthropic 的大语言模型系列，以长上下文、出色的推理能力以及名为 Constitutional AI 的安全方法著称。
利用学习到的滤波器检测空间模式的神经网络架构，是现代计算机视觉的基础。
模型在一次调用中能处理的文本总量，以 token 计，包括系统提示词、对话历史、附件以及正在生成的回答。
相关工具：上下文窗口可视化工具。
通过两个向量之间的夹角衡量相似度的方法，是在检索和 RAG 中比较嵌入的标准做法。
OpenAI 的文生图模型，仅凭自然语言描述即可生成图像，是让基于提示词的图像生成走向大众的主角。
一种生成模型，通过学习逆转逐步添加噪声的过程来生成数据，是当今大多数 AI 图像生成技术的基础。
一种对齐方法，无需 RLHF 中单独的奖励模型，直接用人类偏好配对数据和简单的分类损失函数训练模型。
在训练中随机停用部分神经元，以防止过拟合、提升泛化能力的正则化技术。
用一串数字表示一段文本的含义；语义越相近的内容，在向量空间中的位置就越接近。
在提示词中附上几个示例，让模型先自行把握规律再作答的方法。
用特定领域、任务或风格的额外数据继续训练预训练模型，无需从头构建就能让它更贴合目标用途。
一种生成模型架构，让两个神经网络相互竞争来学习：生成器负责伪造数据，判别器负责识别真假。
Google DeepMind 的模型系列，从一开始就按原生多模态设计，可同时处理文本、图像、音频和视频。
一系列仅含解码器的 Transformer 模型，先在大规模文本语料上预训练以预测下一个 token，再针对各种下游任务进行调整。
xAI 推出的大语言模型兼 AI 助手，与 X（原 Twitter）平台集成，主打实时信息和对话式风格。
语言模型以流畅而自信的口吻，生成与事实不符或缺乏来源依据的内容的现象。
模型无需改动任何权重，仅凭推理时提示词中的示例或指令就能掌握新任务的能力。
用以自然语言指令形式表述的大量任务来微调模型；这样训练出的模型在训练中从未见过的任务上，也能很好地遵循新指令。
旨在绕过模型安全训练、诱使其生成本应拒绝的内容的提示词。
训练较小的“学生”模型去模仿较大的“教师”模型，在保留大部分能力的同时，将其迁移到更便宜、更快的模型上。
以结构化网络形式表示实体及其相互关系，用于以机器可查询、可推理的形式存储事实信息。
从发送提示词到收到回复之间的延迟。模型越大、上下文越长，延迟就越高，这是 AI 产品中决定速度的最大因素。
Meta 公开发布的大语言模型系列，因让研究人员和开发者广泛用上强大且可本地运行的模型而备受认可。
在海量文本上训练、用于预测下一个 token 的神经网络，具备通用的语言理解和生成能力。
冻结原始权重，只训练少量新增的小矩阵，以较少资源微调大模型的技术。
一种借助门控结构记住长序列信息的循环神经网络架构，在 Transformer 出现之前一直是序列建模的主力技术。
将 AI 助手连接到外部工具和数据源的开放标准，让一次构建的集成可以在多个模型间直接复用。
一种架构，让每个输入只交给少数专门的子网络处理，而不是动用整个模型，在降低单次查询成本的同时获得庞大的模型容量。
一份简短的标准化文档，概述模型的用途、在不同群体上的表现差异以及局限性，旨在促进透明、负责任的模型发布。
指能在同一个系统中同时处理文本、图像、音频、视频等不同类型数据的模型。
一种解码方法，从累计概率达到 p 的最小候选集合中抽取下一个 token，可同时避免过度重复和前后不连贯的文本。
衡量语言模型质量的经典内在指标，表示模型对从未见过的文本有多“意外”。数值越低，说明模型对真实文本的预测越好。
为了从模型获得所需回答而输入的文本。措辞方式、是否给出示例以及结构安排，都会极大影响输出质量。
一种攻击手法，直接或通过检索到的内容，把恶意指令偷偷混入模型输入，以架空系统提示词或劫持模型行为。
以更低的数值精度存储模型权重，从而减少内存占用、加快推理速度的技术，通常质量损失不大。
在查询时检索相关文档并一并提供给语言模型的技术，让回答以真实的资料为依据，而不只依赖模型的记忆。
在部署前故意用对抗性输入测试模型，提前发现有害、不安全或违反政策的行为。
一个两阶段的检索过程：用更精细的模型为初步检索到的候选文档重新打分，把真正最相关的结果排到前面。
一种训练方法，利用人类的偏好评分教会模型人们真正喜欢什么样的回答，让模型更有帮助、更符合意图。
一组用于摘要任务的自动评估指标，衡量生成文本与人工撰写的参考摘要之间的重合程度。
揭示模型性能如何随参数、数据和算力的增加而以可预测方式提升的经验规律。
一种推理方法：针对同一问题采样多条思维链，并将其中最多一致的答案作为最终答案。
一种将一个序列转换为另一个序列的编码器-解码器神经网络架构，这一设计催生了神经机器翻译，后来又促成了生成式对话。
一种推理加速技术：由小而快的模型先起草多个 token，再由大模型一次性验证，结果完全相同而速度更快。
一款在潜在空间中运行的开源文生图扩散模型，让高质量图像生成在普通消费级硬件上也能实现。
不等完整回答生成完毕，而是在模型生成的同时逐个 token 发送回复，让文字逐步显示出来的方式。
在对话开始前设定模型角色、语气和规则的隐藏的最高优先级指令，决定了之后所有回答的框架。
控制模型输出随机性的参数。设得低，回答更稳定、可预测；设得高，回答更多样、更有创意。
语言模型实际读写的最小单位，通常不是完整的单词，而是更小的片段。上下文上限、价格和速度都以 token 计量。
相关工具：AI token 计数器。
让模型直接调用网页搜索、代码执行、数据库查询等外部函数，并将结果融入回答的能力。
当今几乎所有大语言模型的基础神经网络架构，建立在名为自注意力的机制之上，而非循环或卷积。
一种推理框架，让模型探索并评估多条分支解题路径，必要时可以回溯，是审慎探索而非一次性猜答案的方式。
学习概率潜在空间的生成模型，既能压缩数据，也能从该空间中生成新样本。
按嵌入相似度而非精确匹配建立索引和检索的数据库，可在毫秒级内找到语义相关的内容。
直接作用于图像块的 Transformer，证明了支撑语言模型的架构在计算机视觉中同样表现出色。
不提供任何示例，仅凭指令和模型在预训练中积累的知识来完成任务的方式。
了解更多