基礎LLM アーキテクチャ 更新

LLM(大規模言語モデル)

定義

LLM とは大規模言語モデル(large language model)のことです。膨大なテキストで次のトークンを予測するよう学習した AI システムで、これにより人間の言語を理解・生成する汎用的な能力を備えています。

概要

正式名称
大規模言語モデル(Large Language Model)
基盤技術
Transformer アーキテクチャ(Vaswani ら、2017)
中心となる目的
それまでのすべての内容をもとに、次のトークンを予測すること
代表例(2026年10月時点)
OpenAI の GPT-6 ファミリー(ChatGPT)、Anthropic の Claude Opus 5.5 と Sonnet 5.5、Google の Gemini 4 Argon、xAI の Grok 4.7
主な限界
ハルシネーション、学習データのカットオフ、有限のコンテキストウィンドウ

技術的な LLM の定義:大規模言語モデルとは、幅広いテキストコーパスで学習し、それまでのすべての内容から次のトークンが出現する確率をモデル化する Transformer ニューラルネットワークです。Brown ら(2020)は、十分な規模になるとこの単一の目的だけで、明示的に学習していない多くのタスクをプロンプトを与えるだけでこなせるモデルが生まれることを示しました。この「文脈内学習(in-context learning)」こそが、現代の LLM を特徴づける振る舞いです。

ChatGPT、Claude、Gemini、Grok はいずれも LLM をベースにしています。学習データ、規模、アライメント、ツール群がそれぞれ異なるため、同じ質問に対しても回答が食い違うことがあります。

LLM とは?わかりやすく言うと

ひと言でいえば、LLM の意味はシンプルです。大規模言語モデルとは、膨大な量のテキストを読み込み、言語の統計的なパターンを学習したプログラムです。「大規模」とは、学習データの量とモデル自体の大きさの両方を指します。現代の LLM は数十億以上のパラメータ(学習内容を保持する調整可能な重み)を持っています。ただし現在では、ほとんどの開発元がフラッグシップモデルの正確なサイズを公表していません。

LLM に質問しても、LLM は答えをどこかで調べているわけではありません。それまでの内容に続く可能性の高いものを毎回選びながら、1トークンずつ回答を書いていきます。だからこそ LLM は流暢で柔軟なのですが、同時に、間違っていても自信満々に聞こえることがあるのです。

大規模言語モデルの学習方法

学習は通常、前の段階を土台にしながら複数の段階を経て行われます。

  1. 1
    事前学習。膨大なテキストを使った次トークン予測によって、モデルは言語、事実、推論のパターンを身につけます。
  2. 2
    アシスタント化の学習。会話例を使ったファインチューニングの一種であるインストラクションチューニングによって、単なる予測器が、依頼に従うアシスタントへと変わります。
  3. 3
    選好の学習。RLHF や DPO などの手法で、人がどの回答を好むか、そして有害な要求をどう断るかをモデルに教えます。

LLM にできること・できないこと

LLM は幅広い言語タスクをこなせます。

  • あらゆるトーンでの文章の下書き、編集、書き直し
  • 長い文書の要約や、言語間の翻訳
  • 質問への回答や、概念のステップごとの説明
  • コードの作成、レビュー、解説
  • 複数ステップの推論を要する問題の解決

一方で、限界も同じくらい重要です。LLM は事実をハルシネーション(捏造)することがあり、内蔵の知識は学習データのカットオフ時点で止まっています。また、コンテキストウィンドウに収まる量のテキストしか考慮できません。検索拡張(RAG)、Web 検索、別のモデルとの回答のクロスチェックは、この3つすべての対策になります。

MultipleChat にとって重要な理由

あらゆる面で最高という LLM は存在しません。MultipleChat なら、ChatGPT、Claude、Gemini、Grok、Perplexity で同じプロンプトを並べて実行できるので、回答を比較し、あるモデルの強みで別のモデルの死角を補えます。比較の仕組みはこちらをご覧ください。

参考文献

この定義の根拠となる一次資料、査読済み資料、アーカイブ資料です。

Language Models are Few-Shot Learners
Brown, T. B., Mann, B., Ryder, N., Subbiah, M., Kaplan, J., et al. (2020). Advances in Neural Information Processing Systems 33 (NeurIPS 2020).
Attention Is All You Need
Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Advances in Neural Information Processing Systems 30 (NeurIPS 2017).

辞書・百科事典の項目

この項目を引用する

MultipleChat「LLM(大規模言語モデル)」MultipleChat AI・LLM 用語集、2026年10月。https://multiple.chat/ai-glossary/llm

関連用語

実際に試してみる

同じプロンプトを ChatGPT、Claude、Gemini、Grok、Perplexity で並べて実行できます。手持ちのファイルをコンテキストに使い、回答同士を照らし合わせて確認できます。

MultipleChat を無料で試す

さらに詳しく

有料プランを見る