生成AIの仕組みをやさしく図解【2026】ChatGPT・Claude・Geminiはどうやって文章を作るのか（トークン・Transformer・学習・推論モデル・ハルシネーション）

全体像：生成AIは「次の言葉当てゲーム」の達人

ChatGPT（OpenAI）、Claude（Anthropic）、Gemini（Google）などの文章を作る生成AIの中心には、LLM（Large Language Model＝大規模言語モデル）と呼ばれるプログラムがあります。LLMがやっていることを一言でいうと、「ここまでの文章の続きとして、次に来そうな言葉を予測する」ことです。

画面に文字が少しずつ表示されるのは、この1語ずつの予測をそのまま見せているからです。数百文字の回答なら、この予測を数百回くり返しています。

助手アイえっ、答えを全部考えてから書いてるんじゃないんですか？

エージェント博士基本は1語ずつじゃ。スマホの予測変換をとてつもなく賢くしたもの、と思えばよい。ただし膨大な文章で鍛えられているから、1語ずつでも筋の通った長文が書けるんじゃ

トークン：AIは文章を細かく切って読む

LLMは文字をそのまま読むのではなく、トークンという単位に区切って扱います。トークンは単語・単語の一部・記号などで、よく出てくる言葉は1トークン、珍しい言葉は数トークンに分かれます。

各トークンには番号が振られ、さらに「意味の近さ」を表す数字の並び（ベクトル）に変換されます。たとえば「犬」と「猫」は近い数字、「犬」と「請求書」は遠い数字になるように学習されています。AIは、この数字の並びを使って計算しているのです。

トークンは料金と上限の単位でもあります。API（プログラムからAIを使う窓口）の料金は「100万トークンあたり○ドル」のように決まっており、一度に読める量（後述のコンテキストウィンドウ）もトークン数で表されます。日本語は英語より1文字あたりのトークン数が多くなりやすい点も覚えておくとよいでしょう。料金の比較はLLM APIの比較で解説しています。

次の言葉を予測する仕組み（確率と温度）

LLMは「次の1トークン」を決めるとき、候補ごとに確率を計算します。たとえば「日本の首都は」の続きなら、次のようなイメージです。

いつも一番確率の高い候補を選ぶと、回答は安定しますが単調になります。そこで、確率に応じて少しランダムに選ぶのが一般的です。このランダムさの度合いを温度（temperature）と呼び、低いほど堅実、高いほど自由で意外な文章になります。

同じ質問をしても毎回少し違う答えが返ってくるのは、この仕組みのためです。アイデア出しでは多様さが役立ち、データの抽出のように正確さが大事な作業では、温度を下げたり、出力の形式を細かく指定したりします。

仕組みを確認したい開発者向けに、考え方だけを示した簡単なコードです（実際のモデルはこれを数千億個規模の数値で計算します）。

import random

# 「日本の首都は」の次に来るトークンの確率（モデルが計算した結果のイメージ）
candidates = {"東京": 0.92, "どこ": 0.03, "京都": 0.01, "その他": 0.04}

def pick_next_token(probabilities, temperature=1.0):
    # 温度が低いほど、確率の高い候補がより選ばれやすくなる
    weights = {token: p ** (1 / temperature) for token, p in probabilities.items()}
    return random.choices(list(weights), weights=list(weights.values()))[0]

print(pick_next_token(candidates, temperature=0.2))  # ほぼ毎回「東京」
print(pick_next_token(candidates, temperature=2.0))  # ときどき別の候補も出る

Transformerと注意機構：文脈を読む心臓部

次の言葉を正しく予測するには、文章のどこに注目するかが重要です。今のLLMのほとんどは、2017年にGoogleの研究者らが論文「Attention Is All You Need」で発表したTransformer（トランスフォーマー）という仕組みを土台にしています。ChatGPTの「GPT」の「T」もTransformerの頭文字です。

注意機構（アテンション）とは

Transformerの中心は注意機構（Attention）です。文章中の各トークンが、ほかのどのトークンとどれくらい関係が深いかを計算します。

この計算を何十層も重ねることで、最初の層では単語の関係、深い層では文の意図や論理の流れといった、より抽象的な情報を扱えるようになると考えられています。また、Transformerは文章全体を並行して計算できるため、大量のデータとGPU（並列計算が得意な半導体）で効率よく学習できます。これが、AIが急速に大規模化できた大きな理由です。

「パラメータ」とは

ニュースで「パラメータ数○○億」と聞くことがあります。パラメータは、注意機構などの計算で使う調整可能な数値のことで、学習によって少しずつ最適な値に調整されます。パラメータが多いほど多くのことを覚えられる傾向がありますが、最近は同じ大きさでもデータや学習方法の工夫で性能が大きく変わるため、数だけで性能は決まりません。

AIはどうやって賢くなる？学習の3段階

生まれたばかりのLLMはパラメータがでたらめで、意味のある文章は書けません。賢いアシスタントになるまでには、大きく分けて次の3段階の学習を経ます。

① 事前学習（Pre-training）

文章の一部を隠し、「次に来る言葉」を当てる問題を、何兆トークン分も解かせます。外れたらパラメータを少し直す、をくり返すうちに、文法・言葉の意味・世の中の知識・プログラムの書き方などを身につけていきます。ここに最も多くの計算資源と費用がかかります。

② 指示への調整（Instruction Tuning）

事前学習だけのモデルは「文章の続きを書く」のは得意でも、質問に答えるのは苦手です。そこで、人が作った「指示」と「良い回答」の組で追加学習し、指示に沿って答えるアシスタントに仕立てます。

③ 評価による調整（RLHFなど）

最後に、人が複数の回答を比べて「どちらが良いか」を評価し、その評価が高くなる方向へモデルを調整します。これをRLHF（人間のフィードバックによる強化学習）と呼びます。Anthropicは、あらかじめ定めた原則（憲法）にもとづいてAI自身に回答を評価・修正させる「Constitutional AI」という方法も公表しています。最近は、数学やプログラミングのように正解を機械で確かめられる課題で試行錯誤させ、正しく解けたときに強化する学習も重視されています。

助手アイ①が「たくさん本を読む」、②が「接客の研修」、③が「お客様アンケートで改善」って感じですね

エージェント博士うまいたとえじゃ。そして学習が終わったモデルは、それ以降の出来事を知らない。この締め切りを「知識のカットオフ」と呼ぶぞ

記憶の正体：コンテキストウィンドウ

チャットでAIが前の会話を覚えているように見えるのは、毎回、それまでの会話を丸ごと読み直しているからです。AIが一度に読める量の上限をコンテキストウィンドウと呼び、トークン数で表します。

• コンテキストウィンドウにはシステムからの指示・会話の履歴・添付資料・今回の質問がすべて入る
• 上限を超えると、古い部分を要約したり切り捨てたりする必要がある。長い会話の後半で最初の指示を忘れたように見えるのはこのため
• モデルのパラメータは会話によって変わらない。チャットの中で教えた内容は、新しい会話を始めると基本的には引き継がれない（各サービスの「メモリ」機能は、要点を保存して次の会話の入力に足している）

2026年時点の主要モデルは、数十万〜100万トークン以上を扱えるものもあり、長い契約書や大量のコードも一度に読めるようになっています。それでも、関係のない情報を大量に入れると重要な部分を見落としやすくなるため、必要な資料に絞って渡すのがコツです。

「考えるAI」推論モデルとツール利用

推論モデル：答える前に考える

LLMは1語ずつ書く仕組みなので、いきなり答えを書かせるより、途中の考えを書き出させたほうが正確になることが知られています（人間が計算を筆算でするのと似ています）。この性質を学習で強化したのが推論モデルで、回答の前に内部で長い「考える過程」を生成し、計画・検算・やり直しをしてから最終回答を出します。OpenAIのoシリーズ以降のモデルや、Claudeの拡張思考（Extended Thinking）、Geminiの思考モードなどがこれにあたります。数学・プログラミング・複雑な分析に強い一方、回答までの時間と料金は増えます。

ツール利用：自分の知らないことを調べに行く

LLM単体は、学習した知識と渡された文章しか使えません。そこで、AIが「Web検索をしたい」「計算プログラムを動かしたい」と申し出て、システムが実行した結果を読ませる仕組み（ツール利用）が広く使われています。最新ニュースを答えたり、ファイルを分析したりできるのはこのためです。

このツール利用を何度もくり返し、目標に向かって自分で作業を進めるようにしたものがAIエージェントです。Claude CodeやCodexがどう動いているかは、続編のClaude Code・Codexの仕組みで詳しく解説しています。

画像・音声・動画を作る仕組み

文章以外を作る生成AIにも、いくつかの代表的な仕組みがあります。

画像生成の始め方はAI画像生成の始め方、動画や3DのツールはAI動画・3D生成ツールまとめで紹介しています。

なぜ間違える？ハルシネーションの理由

生成AIが、事実ではない内容をもっともらしく答えてしまう現象をハルシネーション（幻覚）と呼びます。仕組みが分かると、起きる理由も見えてきます。

• 「正しいか」ではなく「自然か」で言葉を選んでいる：知らないことを聞かれても、それらしい続きの文章は作れてしまう
• 知識を正確な形で保存していない：膨大な文章の傾向をパラメータに圧縮して覚えているため、細かい数字・日付・固有名詞・出典は混ざりやすい
• カットオフ以降の情報を知らない：検索ツールを使わない場合、古い情報のまま答える
• 質問の前提に引きずられる：「○○が発表した新機能は？」と聞くと、存在しない機能を作り話で答えてしまうことがある

仕組みから分かる上手な使い方

具体的な指示の書き方はプロンプトの書き方・コツ、目的別にどのAIを選ぶかはChatGPT・Claude・Geminiのモデル比較で解説しています。

まとめ｜「次の言葉当て」を極めたのが生成AI

生成AIは、文章をトークンに分け、Transformerの注意機構で文脈を読み、次に来る言葉を1つずつ予測して文章を作っています。その賢さは、大量の文章での事前学習・指示への調整・評価による調整の3段階で作られます。そして「もっともらしさ」で言葉を選ぶ仕組みだからこそ、具体的な指示と資料を渡し、重要な事実は自分で確かめるのが上手な付き合い方です。

このLLMに「道具」と「くり返し作業する仕組み」を与えると、AIエージェントになります。続けてClaude Code・Codexの仕組み（AIエージェント編）もあわせてお読みください。

仕組みが分かったら、次は使いこなす番

生成AIの仕組みを理解している人は、AIの得意・不得意を見極めて仕事に活かせます。体系的に学びたい方に役立つ記事です。

• AIスキルの学び方：独学からの進め方
• AI関連の資格まとめ：生成AIパスポートやG検定など
• IT業界地図2026（姉妹サイト・転職業界研究所）：AIの知識が活きる業界と年収の目安

関連記事

• Claude Code・Codexの仕組み【2026】AIエージェントを図解
• 生成AIとは？何ができるか具体例でわかる入門【2026】
• AIエージェントとは？歴史と仕組みをやさしく解説【2026】
• ChatGPT・Claude・Gemini モデル比較【2026】
• プロンプトの書き方・コツ【2026】
• OpenAIのモデルの歴史【2026】
• Claude（クロード）のモデルの歴史【2026】
• Gemini（ジェミニ）のモデルの歴史【2026】