生成AIパスポート 第2章「生成AIの仕組み」出題ポイント解説
生成AIパスポート試験の第2章「生成AIの仕組み」を体系的に解説します。生成AIとは何か、LLMの次トークン予測、トークンとパラメータ、画像を生む拡散モデル、GAN/VAE、マルチモーダル、ファインチューニング、コンテキストウィンドウ、そして確率的な生成という性質まで、生成AIが「どう動いているか」を理解しましょう。
※受験料・試験日程・シラバス・出題内容は改定される場合があります。最新情報は必ずGUGA公式情報でご確認ください。
生成AIとは
生成AI(Generative AI)は、学習したデータの傾向をもとに、テキスト・画像・音声・動画などの新しいコンテンツを生成するAIです。分類や予測を行う従来の識別的なAIと対比され、「ゼロから作り出す」点が特徴です。第1章で学んだ深層学習・Transformerが基盤技術となっています。
- 識別系AI: 与えられた入力を「これは何か」と判定する(画像分類・スパム判定など)。
- 生成系AI: 学習した分布に従って「新しいデータ」を作り出す(文章・画像など)。
大規模言語モデル(LLM)と次トークン予測
テキスト生成AIの中核が大規模言語モデル(LLM)です。LLMは膨大なテキストで学習し、「これまでの文章に続いて次に来る可能性が高い語」を予測することで文章を生成します。
- 次トークン予測: 直前までの文脈から次の1トークンを確率的に選び、それを繰り返して文章を作る(自己回帰生成)。
- 一貫性: 意味を「理解」しているのではなく、統計的にもっともらしい続きを選んでいる点が原理上の前提。
トークンとパラメータ
| 用語 | 意味 |
|---|---|
| トークン | モデルが扱う文章の最小単位。単語・部分文字列・記号などに分割される。入出力の長さや料金の基準になることが多い。 |
| パラメータ | モデル内部の調整可能な重み。数が多いほど表現力が高まる傾向があるが、計算資源も増える。 |
画像生成の仕組み
画像などの生成には、テキスト生成とは異なるモデルが用いられます。試験では代表的な生成モデルの違いを整理しておきましょう。
| モデル | 仕組み | 特徴 |
|---|---|---|
| 拡散モデル(Diffusion) | ノイズを加えた画像から、少しずつノイズを除去して画像を復元・生成する | 近年の画像生成AIの主流。高品質 |
| GAN | 生成器と識別器を競わせ、本物らしい画像を作る | 敵対的生成。学習が不安定になりやすい |
| VAE | データを潜在空間に圧縮し、そこから再構成して生成する | 確率的な潜在表現を持つ |
マルチモーダル
- マルチモーダルAI: テキスト・画像・音声・動画など複数の種類(モダリティ)の情報をまとめて扱えるAI。
- 例: 画像を見せて内容を説明させる、図と文章を組み合わせて回答する、といった使い方が可能になる。
ファインチューニングとカスタマイズ
- 事前学習: 大量の一般データで基礎的な能力を獲得する段階。
- ファインチューニング: 事前学習済みモデルを、特定の用途やデータで追加学習し、専門分野に適応させること。
- 使い分け: 手軽に文脈を与えるだけで済む場合はプロンプト(第5章)で対応し、恒常的な専門特化が必要な場合にファインチューニングを検討する、という整理がされる。
コンテキストウィンドウ
- コンテキストウィンドウ: モデルが一度に扱える入力+出力のトークン量の上限。
- 影響: 上限を超える長文はすべてを一度に考慮できない。長い資料を扱う際の制約として理解しておく。
確率的な生成という性質
- 生成AIは確率に基づいて出力を選ぶため、同じ入力でも毎回同じ結果になるとは限らない。
- この性質があるため、事実の誤り(ハルシネーション)も起こりうる。生成物は必ず人間が確認・検証する必要がある。
この章の要点まとめ
- 生成AIは学習した傾向から新しいコンテンツを作り出すAI。
- LLMは次トークン予測を繰り返して文章を生成する(確率的・自己回帰)。
- 画像生成の主流は拡散モデル。GAN・VAEとの違いを押さえる。
- トークン・パラメータ・コンテキストウィンドウは容量や制約の基礎用語。
- マルチモーダル・ファインチューニングで用途を広げられる。
生成AIパスポートの一問一答で知識を定着
▶ 生成AIパスポートのクイズに挑戦する