G検定（ジェネラリスト検定）「生成AI・大規模言語モデル（LLM）の発展問題」の一問一答

G検定（ジェネラリスト検定）の生成AI・大規模言語モデル（LLM）の発展問題に関する一問一答（全75問）の正解と解説の一覧です。上の一問一答で実際に解いてから、ここで復習・確認できます。

1. 問1．大規模言語モデル（LLM）は、Transformerアーキテクチャを基盤として大量のテキストデータで事前学習された言語モデルである。

   正解：○（正しい）

   解説：GPTやClaude、Geminiなどの主要なLLMは、2017年にGoogleが提案したTransformerの自己注意機構を基盤とし、Webテキストなど大規模コーパスで事前学習されている点が共通している。

2. 問2．スケーリング則（Scaling Laws）とは、モデルのパラメータ数を減らすほど損失が小さくなり性能が向上するという経験則である。

   正解：×（誤り）

   解説：誤り。スケーリング則は、パラメータ数・データ量・計算量を増やすほど損失がべき乗則に従って改善するという経験則であり、パラメータを減らすほど性能が向上するという説明は逆になっている。

3. 問3．RLHF（人間のフィードバックによる強化学習）は、人間の選好データを用いて報酬モデルを学習し、その報酬を最大化するように言語モデルを調整する手法である。

   正解：○（正しい）

   解説：ChatGPTの学習で広く知られた手法であり、人間が好む応答に高い報酬を与える報酬モデルを作り、PPOなどの強化学習でモデルを最適化することでアライメントを高めるものである。

4. 問4．RLHFは人間のフィードバックを一切用いず、モデルが自動生成したデータのみで報酬を最適化する手法である。

   正解：×（誤り）

   解説：誤り。RLHFのHFは『Human Feedback（人間のフィードバック）』を意味し、人間の選好データで報酬モデルを学習する点が本質である。人間を一切介さない手法という説明は適切でない。

5. 問5．DPO（Direct Preference Optimization）は、独立した報酬モデルや強化学習ループを用いずに、選好データから直接モデルを最適化する手法である。

   正解：○（正しい）

   解説：DPOはRLHFで必要だった報酬モデルの学習とPPOによる強化学習を不要にし、選好ペアから直接方策を最適化する。実装が簡潔で学習が安定しやすいためアライメントで広く採用されている。

6. 問6．指示チューニング（Instruction Tuning）とは、人間の選好データから報酬モデルを学習し、強化学習でモデルを最適化する手法のことである。

   正解：×（誤り）

   解説：誤り。報酬モデルと強化学習で最適化する手法はRLHFである。指示チューニングは多様なタスクの指示と応答のペアで微調整し指示追従能力を高める教師あり手法であり、両者は別の手法である。

7. 問7．Chain-of-Thought（思考の連鎖）プロンプティングは、推論過程を段階的に明示させることで、複雑な推論タスクの精度を向上させる手法である。

   正解：○（正しい）

   解説：『ステップごとに考えよう』のように中間の推論過程を促すことで、算術や論理推論の正答率が向上する。特に大規模モデルにおいてその効果が顕著に現れることが知られている。

8. 問8．Few-shotプロンプティングとは、プロンプト内に解答例を一切示さず、タスクの指示のみで回答させる手法のことである。

   正解：×（誤り）

   解説：誤り。例を一切示さないのはZero-shotである。Few-shotはプロンプト内に少数の入出力例（ショット）を提示してタスクを学習させる手法を指すため、説明が逆になっている。

9. 問9．RAG（検索拡張生成）は、外部の知識ベースから関連文書を検索し、その内容を文脈としてLLMに与えて回答を生成する仕組みである。

   正解：○（正しい）

   解説：Retrieval-Augmented Generationの略であり、最新情報や社内文書を検索して根拠として与えることで、ハルシネーションの低減や情報鮮度の向上、出典提示の容易さに寄与する仕組みである。

10. 問10．破滅的忘却とは、事前学習済みモデルを新しいタスクでファインチューニングしても、新しいタスクの知識をまったく獲得できなくなる現象である。

    正解：×（誤り）

    解説：誤り。破滅的忘却は、新しいタスクを学習すると以前に学習したタスクの知識や性能が大きく失われる現象である。新しい知識が入らないのではなく、古い知識が上書きされることが問題になる。

11. 問11．ハルシネーション（hallucination）とは、LLMが事実に基づかない、もっともらしいが誤った情報を生成してしまう現象を指す。

    正解：○（正しい）

    解説：生成AIの主要な課題の一つであり、存在しない論文や誤った数値を自信ありげに出力する。RAGや出典の提示、ファクトチェックなどによって緩和が図られているが完全な解決には至っていない。

12. 問12．ハルシネーションは、学習データを増やせば必ず完全に解消できることが理論的に証明されている。

    正解：×（誤り）

    解説：誤り。データ増加による軽減は期待できるものの、確率的に次トークンを予測する仕組み上ハルシネーションを完全に解消できる保証はなく、現在も根本的な未解決課題として研究が続いている。

13. 問13．LoRA（Low-Rank Adaptation）は、元のモデルの重みを凍結し、低ランクの追加行列のみを学習することでパラメータ効率よく微調整する手法である。

    正解：○（正しい）

    解説：PEFT（パラメータ効率的微調整）の代表的手法であり、学習対象を小さな低ランク行列に限定することで、メモリ消費と計算コストを大幅に削減しながらモデルを下流タスクに適応させられるものである。

14. 問14．QLoRAは、モデルの精度を上げるために重みを高精度のまま保持し、GPUメモリ消費をあえて増やして微調整する手法である。

    正解：×（誤り）

    解説：誤り。QLoRAはモデルを4bitなどに量子化した上でLoRAを適用し、GPUメモリ消費を抑えて大規模モデルの微調整を可能にする手法である。メモリ消費をあえて増やすという説明は実際とは逆である。

15. 問15．Flamingoは画像と文章が交互に並んだ入力を扱える視覚言語モデルだが、新しいタスクに対応するには、必ずタスクごとに大量のデータでファインチューニングし直す必要がある。

    正解：×（誤り）

    解説：誤り。Flamingo は画像・動画と文章が交互に並んだ系列を入力でき、タスクの例をいくつかプロンプトとして与えるだけの Few-shot 学習で多くのタスクに対応できることを示した。

16. 問16．拡散モデル（Diffusion Model）は、データに徐々にノイズを加える過程を逆向きに学習し、ノイズから段階的にデータを生成する画像生成手法である。

    正解：○（正しい）

    解説：順拡散過程でノイズを加え、逆拡散過程でノイズを除去していく仕組みである。Stable DiffusionやDALL-Eなどに採用されており、高品質な画像生成の主流手法として広く利用されているものである。

17. 問17．β-VAEは、VAEの損失のうちKLダイバージェンスの項に掛ける重みβを1より小さくすることで、潜在変数の各次元が独立した生成要因を表す「もつれの解けた表現」を得やすくしたモデルである。

    正解：×（誤り）

    解説：誤り。β-VAE（Higgins et al., 2017）はβを1より大きくしてKLダイバージェンス項を強め、潜在変数を事前分布（各次元が独立な正規分布）に近づけることで、もつれの解けた表現を得やすくする。そのかわり再構成の精度は下がりやすい。

18. 問18．拡散モデルはGAN（敵対的生成ネットワーク）と全く同一のアーキテクチャと学習方式を採用している。

    正解：×（誤り）

    解説：誤り。GANは生成器と識別器を競わせる敵対的学習だが、拡散モデルはノイズの付与と除去の過程を学習する全く異なる仕組みであり、学習の安定性や生成品質の特性などにも違いがあるものである。

19. 問19．マルチモーダルAIとは、テキストだけでなく画像・音声・動画など複数種類のデータを統合的に扱えるAIモデルを指す。

    正解：○（正しい）

    解説：GPT-4oやGemini、Claudeなどは画像入力やテキスト出力を組み合わせて処理できる。複数のモダリティを統合して理解・生成する能力は近年の生成AIの発展における中心的なテーマとなっている。

20. 問20．PaLMは、Googleが2022年に発表した約5,400億パラメータの大規模言語モデルであり、Transformerを使わず再帰型ニューラルネットワークで構成されている。

    正解：×（誤り）

    解説：誤り。PaLM（Chowdhery et al., 2022）は約5,400億パラメータのデコーダのみのTransformerで、Googleの分散学習基盤Pathwaysを使って学習された。シラバスでは「27. 自然言語処理」に大規模言語モデル（LLM）の代表例として挙がっている。

21. 問21．Function Calling（関数呼び出し）は、LLMが外部のAPIやツールを呼び出すための引数を構造化形式で出力する機能である。

    正解：○（正しい）

    解説：ユーザーの要求に応じて呼び出すべき関数名と引数をJSONなどの構造化形式で生成し、天気取得やデータベース検索など外部機能と連携できる。AIエージェントを実現するうえでの基盤技術となっている。

22. 問22．AIエージェントは、目標達成のために自律的に計画を立て、ツールを使い、複数ステップのタスクを実行できるシステムを指す。

    正解：○（正しい）

    解説：LLMを推論の中核とし、ツール利用・記憶・計画立案などを組み合わせて自律的にタスクを進めるシステムである。ReActやFunction Callingといった技術がその具体的な実現を支えているものである。

23. 問23．ReActは、推論（Reasoning）と行動（Acting）を交互に行い、思考と外部ツールの利用を組み合わせて問題を解くプロンプティング手法である。

    正解：○（正しい）

    解説：考える（Thought）→行動する（Action）→観測する（Observation）を繰り返す枠組みであり、検索などの外部ツール利用と推論を統合することで、エージェント的な動作を実現する手法である。

24. 問24．基盤モデル（foundation model）とは、特定タスク専用に小規模データだけで学習され、他のタスクには一切転用できないモデルを指す。

    正解：×（誤り）

    解説：誤り。基盤モデルは大規模データで事前学習され、微調整やプロンプトを通じて多様な下流タスクに広く適応できる汎用性が本質である。専用かつ転用不可という説明は実際とは逆になっている。

25. 問25．創発的能力（emergent abilities）とは、モデル規模が一定の閾値を超えると、小規模モデルには見られなかった能力が突然現れる現象を指す。

    正解：○（正しい）

    解説：多段階の算術や複雑な推論などの能力が、モデル規模の拡大によって非連続的に出現するとされる現象である。大規模化の意義やLLMの性質を語るうえで重要な概念として議論されているものである。

26. 問26．CLIPは画像とテキストの対応ペアで対照学習したモデルであるが、学習時に見ていないクラスの画像を分類するゼロショット分類には利用できない。

    正解：×（誤り）

    解説：誤り。CLIPは大量の画像とテキストの組を対照学習して画像とテキストを同じ空間に埋め込むため、クラス名を文にしたテキストとの類似度を比べることで、追加学習なしのゼロショット分類ができる。

27. 問27．生成AIの学習や推論には大量の計算資源と電力が必要であり、計算コストや環境負荷が課題として指摘されている。

    正解：○（正しい）

    解説：大規模モデルの学習には膨大なGPU時間と電力を要する。コストやカーボンフットプリント（環境負荷）の観点から、より効率的な学習・推論手法やモデルの軽量化に関する研究が活発に進められている。

28. 問28．生成AIが学習データに含まれる著作物を出力する可能性があり、著作権侵害の懸念は法的・倫理的な論点として議論されていない。

    正解：×（誤り）

    解説：誤り。生成AIと著作権は世界的に活発に議論されている論点であり、学習データの利用の是非や生成物の権利帰属をめぐる訴訟や法整備が各国で進んでいるため、議論されていないという記述は適切でない。

29. 問29．埋め込み（embedding）とは、単語や文章を意味的な関係を保った密な数値ベクトルに変換した表現である。

    正解：○（正しい）

    解説：意味が近いテキストはベクトル空間上で近くに配置されるよう学習される。RAGの検索や意味的類似度の計算、クラスタリングなど幅広い用途に利用される、生成AIの基礎的な技術の一つである。

30. 問30．アライメント（alignment）とは、複数のモデルの出力を平均して推論精度を高めるアンサンブル手法のことを指す。

    正解：×（誤り）

    解説：誤り。アライメントはAIの振る舞いを人間の意図や価値観・倫理に沿わせる取り組みを指し、RLHFやDPOなどで実現される。複数モデルの出力を平均するのはアンサンブルであり、両者は別概念である。

31. 問31．プロンプトインジェクションは、悪意ある入力でLLMの本来の指示を上書き・無視させ、意図しない動作を引き起こす攻撃である。

    正解：○（正しい）

    解説：『これまでの指示を無視せよ』のような入力でシステムプロンプトを乗っ取る手口であり、生成AIアプリケーションのセキュリティ上の代表的な脅威として、入力検証などの対策が求められているものである。

32. 問32．トークン（token）とは、LLMがテキストを処理する際の基本単位であり、必ず1単語が1トークンに対応する。

    正解：×（誤り）

    解説：誤り。トークンはサブワード単位で分割されることが多く、1単語が複数トークンに分かれたり、複数の文字が1トークンになることもある。1単語が必ず1トークンに対応するという説明は適切でない。

33. 問33．コンテキストウィンドウ（context window）とは、LLMが一度に処理・参照できるトークン数の上限を指す。

    正解：○（正しい）

    解説：入力と出力を合わせて扱える最大トークン数のことであり、近年は数十万から百万トークン規模へと拡大している。長文の処理やRAGの設計に影響する重要なパラメータとして理解されているものである。

34. 問34．知識蒸留（distillation）は、小さなモデルの出力を大きなモデルに学習させ、より大規模で重いモデルを得る手法である。

    正解：×（誤り）

    解説：誤り。知識蒸留は大きな教師モデルの出力を小さな生徒モデルに学習させ、軽量で高速なモデルを得る手法である。小さなモデルから大きなモデルを得るという説明は、向きが逆になっているものである。

35. 問35．温度（temperature）パラメータを高く設定すると、出力の多様性が下がり常に同じ確定的な応答になる。

    正解：×（誤り）

    解説：誤り。temperatureを高くすると確率分布が平坦化し、出力の多様性やランダム性が増す。確定的に近い応答を得たい場合はむしろ低い値を設定するため、説明が逆になっているものである。

36. 問36．RAGはモデルの重みを更新せずに外部知識を活用できるため、ファインチューニングより低コストで知識を更新できる場合がある。

    正解：○（正しい）

    解説：RAGは知識ベースを差し替えるだけで情報を更新でき、モデルの再学習が不要な点が利点である。最新情報の反映や出典提示の容易さから、実務における知識更新の手段として広く採用されているものである。

37. 問37．ガードレール（guardrail）は、生成AIの入出力を監視・制限し、有害・不適切な内容の生成を防ぐ仕組みである。

    正解：○（正しい）

    解説：入力フィルタや出力検証、禁止トピックの制御などによって安全性を担保する仕組みである。生成AIを実運用する際のリスク管理として、近年その導入や設計の重要性がますます高まっているものである。

38. 問38．事前学習済みのLLMは追加学習なしでもプロンプト内の例から学び取って応答できるが、これを転移学習（transfer learning）と呼ぶ。

    正解：×（誤り）

    解説：誤り。重み更新を伴わずプロンプト内の例示や指示だけでタスクに適応する能力は文脈内学習（in-context learning）と呼ばれる。転移学習は事前学習済みモデルを別タスクに微調整で活かす別概念である。

39. 問39．Transformerが採用する仕組みのうち、系列内の各要素間の関連度を計算して文脈を捉えるものとして最も適切なものはどれか。

    • ア．畳み込み層（Convolution）
    • イ．再帰構造（RNN）
    • ウ．プーリング層
    • エ．自己注意機構（Self-Attention）

    正解：エ．自己注意機構（Self-Attention）

    解説：Transformerの中核は自己注意機構（Self-Attention）であり、系列内の各トークン間の関連度を計算して文脈を捉える。畳み込みや再帰構造ではなく、この注意機構がアーキテクチャの要となっている。

40. 問40．プロンプト内に解答例を一切示さず、指示のみでタスクを実行させる手法の名称として正しいものはどれか。

    • ア．Zero-shot
    • イ．Fine-tuning
    • ウ．Few-shot
    • エ．Chain-of-Thought

    正解：ア．Zero-shot

    解説：例を示さず指示だけで解かせるのはZero-shotである。例を少数示すのがFew-shot、推論過程を段階的に示すのがChain-of-Thoughtであり、それぞれ与える情報の量や種類が異なる手法である。

41. 問41．中間の推論過程を段階的に出力させて複雑な推論精度を高める手法はどれか。

    • ア．RAG
    • イ．Chain-of-Thought
    • ウ．RLHF
    • エ．LoRA

    正解：イ．Chain-of-Thought

    解説：推論過程を順を追って出力させるのがChain-of-Thought（思考の連鎖）である。RAGは検索拡張生成、RLHFは人間フィードバックによる強化学習、LoRAは効率的微調整であり、いずれも目的が異なる。

42. 問42．画像を入力として、その画像に写っている内容を説明する自然な文章を生成するマルチモーダルタスクはどれか。

    • ア．Visual Question Answering
    • イ．Text-To-Image
    • ウ．Image Captioning
    • エ．Object Detection

    正解：ウ．Image Captioning

    解説：Image Captioning は画像から説明文を生成するタスクである。Visual Question Answering は画像と質問文を受け取って答えを出すタスク、Text-To-Image は文章から画像を生成するタスク、Object Detection は物体の位置と種類を検出するタスクである。

43. 問43．ランダムに初期化した大規模なニューラルネットワークの中には、単独で学習させても元のネットワークと同程度の精度に達する小さな部分ネットワークが含まれている、とする仮説はどれか。

    • ア．分布仮説
    • イ．多様体仮説
    • ウ．スケーリング則
    • エ．宝くじ仮説

    正解：エ．宝くじ仮説

    解説：宝くじ仮説（Lottery Ticket Hypothesis）である。プルーニングで見つかる「当たりくじ」の部分ネットワークは、元の初期値から単独で学習しても同程度の精度に達するとされ、モデルの軽量化の根拠として注目された。分布仮説は単語の意味は周囲の単語で決まるという考え、多様体仮説は高次元データが低次元の多様体上に分布するという考え、スケーリング則は規模と性能の関係の経験則である。

44. 問44．人間の選好データから報酬モデルを学習し、強化学習でLLMを調整する手法の略称はどれか。

    • ア．RLHF
    • イ．PEFT
    • ウ．RAG
    • エ．SFT

    正解：ア．RLHF

    解説：RLHF（Reinforcement Learning from Human Feedback）が該当する。報酬モデルとPPOなどの強化学習を組み合わせ、人間が好む応答へとモデルを最適化してアライメントを高める手法である。

45. 問45．報酬モデルや強化学習ループを用いず、選好データから直接モデルを最適化するアライメント手法はどれか。

    • ア．PPO
    • イ．DPO
    • ウ．RAG
    • エ．LoRA

    正解：イ．DPO

    解説：DPO（Direct Preference Optimization）が該当する。RLHFで必要だった複雑な強化学習工程を省き、選好ペアから直接方策を最適化する点が特徴で、安定した学習が行いやすいとされる手法である。

46. 問46．DDPMに代表される拡散モデルの学習で、ニューラルネットワークが予測するように学習させる対象として代表的なものはどれか。

    • ア．識別器が出す本物か偽物かの判定
    • イ．潜在変数の平均と分散
    • ウ．途中で付加されたノイズ成分
    • エ．系列における次の単語の確率

    正解：ウ．途中で付加されたノイズ成分

    解説：DDPM（Ho et al., 2020）では、データにノイズを段階的に加えた入力から、加えられたノイズを予測するようにネットワークを学習させ、生成時はそのノイズを少しずつ取り除く。潜在変数の平均と分散を出力するのはVAEのエンコーダ、本物か偽物かを判定するのはGANの識別器、次の単語の確率を出力するのは言語モデルである。

47. 問47．拡散モデルの生成過程として最も適切な説明はどれか。

    • ア．生成器と識別器を敵対的に学習させる
    • イ．クラスタ中心を反復更新して生成する
    • ウ．決定木を多数組み合わせて生成する
    • エ．ノイズから段階的にノイズを除去して生成する

    正解：エ．ノイズから段階的にノイズを除去して生成する

    解説：拡散モデルはノイズから段階的にノイズを除去してデータを生成する（逆拡散過程）。生成器と識別器を競わせる敵対的学習はGANの仕組みであり、拡散モデルとは学習方式が根本的に異なる手法である。

48. 問48．LLMが外部APIを呼び出すために、呼び出す関数名と引数を構造化形式で出力する機能はどれか。

    • ア．Function Calling
    • イ．Embedding
    • ウ．Tokenization
    • エ．Distillation

    正解：ア．Function Calling

    解説：Function Calling（関数呼び出し）が該当する。LLMが外部ツールやAPIと連携するための基盤であり、AIエージェントが自律的にタスクを遂行するうえで欠かせない重要な要素技術となっている。

49. 問49．推論（Reasoning）と行動（Acting）を交互に行い、思考とツール利用を組み合わせる手法の名称はどれか。

    • ア．RLHF
    • イ．ReAct
    • ウ．QLoRA
    • エ．DALL-E

    正解：イ．ReAct

    解説：ReAct（Reason + Act）が該当する。思考と外部ツールの行動を交互に繰り返すことで、検索などを活用したエージェント的なタスク遂行を可能にする手法であり、自律エージェントの基礎となっている。

50. 問50．1つのモデルに関連する複数の課題（例：物体検出と領域分割）を同時に学習させ、課題間で表現を共有して汎化性能を高める学習の枠組みはどれか。

    • ア．転移学習
    • イ．アンサンブル学習
    • ウ．マルチタスク学習
    • エ．カリキュラム学習

    正解：ウ．マルチタスク学習

    解説：マルチタスク学習は複数の関連タスクを同時に学習し、共有した表現を通じて各タスクの汎化性能を高める。転移学習はあるタスクで学んだモデルを別のタスクへ順に流用する方法、アンサンブル学習は複数のモデルの予測を統合する方法、カリキュラム学習はやさしいデータから順に学習させる方法である。

51. 問51．モデル規模が一定の閾値を超えると小規模モデルに見られなかった能力が突然現れる現象の名称はどれか。

    • ア．勾配消失
    • イ．正則化
    • ウ．次元の呪い
    • エ．創発的能力

    正解：エ．創発的能力

    解説：創発的能力（emergent abilities）が該当する。スケールの拡大によって新たな能力が非連続的に出現するとされる現象であり、大規模化の意義やLLMの性質を語るうえで重要な概念とされているものである。

52. 問52．テキストや画像など複数種類のデータを統合的に扱えるAIを表す語として正しいものはどれか。

    • ア．マルチモーダルAI
    • イ．シンボリックAI
    • ウ．ユニモーダルAI
    • エ．ルールベースAI

    正解：ア．マルチモーダルAI

    解説：マルチモーダル（multimodal）AIが該当する。GPT-4oやGeminiなどが画像・テキストなどを統合して処理する。単一のモダリティのみを扱うユニモーダルとは対照的な概念であり、近年の発展の中心である。

53. 問53．モデルのパラメータ数・データ量・計算量と性能の関係を示す経験則の名称はどれか。

    • ア．ムーアの法則
    • イ．スケーリング則
    • ウ．ベイズの定理
    • エ．アムダールの法則

    正解：イ．スケーリング則

    解説：スケーリング則（Scaling Laws）が該当する。べき乗則的に損失が改善するという経験則であり、計算資源の配分やモデル設計の指針として用いられ、LLMの大規模化を支える根拠となっているものである。

54. 問54．単語や文章を意味的関係を保った密な数値ベクトルに変換した表現の名称はどれか。

    • ア．ワンホット表現
    • イ．正規化
    • ウ．埋め込み（embedding）
    • エ．量子化

    正解：ウ．埋め込み（embedding）

    解説：埋め込み（embedding）が該当する。意味が近いテキストほどベクトル空間で近接するよう学習され、RAGの検索や意味的類似度の計算など、生成AIの幅広い処理において基礎的な役割を果たしている。

55. 問55．量子化とLoRAを組み合わせ、限られたGPUメモリで大規模モデルを微調整する手法はどれか。

    • ア．ReAct
    • イ．RLHF
    • ウ．RAG
    • エ．QLoRA

    正解：エ．QLoRA

    解説：QLoRA（Quantized LoRA）が該当する。4bit量子化とLoRAを併用することで、単一GPUでも大規模モデルの微調整を可能にした手法であり、個人や小規模環境での微調整を現実的にした点で評価されている。

56. 問56．エンコーダの出力を、学習で得られる有限個の代表ベクトル（コードブック）のうち最も近いものに置き換え、離散的な潜在表現を得る生成モデルはどれか。

    • ア．VQ-VAE
    • イ．β-VAE
    • ウ．info VAE
    • エ．DCGAN

    正解：ア．VQ-VAE

    解説：VQ-VAE（Vector Quantised VAE）は潜在表現をコードブックのベクトルに量子化して離散化する。β-VAE は KL 項の重み β を大きくして解釈しやすい（もつれの解けた）表現を狙うもの、info VAE は潜在変数と入力の相互情報量を保つよう目的関数を変えたもの、DCGAN は畳み込みを使った GAN である。

57. 問57．LLMが一度に処理・参照できるトークン数の上限を表す語として正しいものはどれか。

    • ア．バッチサイズ
    • イ．コンテキストウィンドウ
    • ウ．エポック
    • エ．学習率

    正解：イ．コンテキストウィンドウ

    解説：コンテキストウィンドウ（context window）が該当する。入力と出力を合わせて扱える最大トークン数を指し、長文の処理やRAGの設計に大きく影響する。近年は百万トークン規模へと拡大が進んでいる。

58. 問58．LLMの事前学習のように、人手で正解ラベルを付けず、テキストそのものから次のトークンを予測させる形で学習する枠組みはどれか。

    • ア．教師あり学習
    • イ．半教師あり学習
    • ウ．自己教師あり学習
    • エ．強化学習

    正解：ウ．自己教師あり学習

    解説：自己教師あり学習は、データ自身から自動的に作った擬似的な正解（次のトークン、隠した部分など）を予測させて学習する。大量のラベルなしテキストを使えるため、LLMや基盤モデルの事前学習で中心的に使われる。

59. 問59．画像やテキストなど多様な入力と出力をすべて離散的なトークンの列に変換し、1つのTransformerで物体検出・画像生成・質問応答など多数の視覚・言語タスクをまとめて扱えるようにしたモデルはどれか。

    • ア．CLIP
    • イ．DALL-E
    • ウ．Flamingo
    • エ．Unified-IO

    正解：エ．Unified-IO

    解説：Unified-IO（Lu et al., 2022）は、あらゆる入出力を共通の語彙のトークン列にそろえ、1つのエンコーダ・デコーダ型Transformerで多数のタスクを学習した。CLIPは画像と文章の対応を対照学習するモデル、DALL-Eは文章から画像を生成するモデル、Flamingoは画像と文章の交互入力から文章を生成するモデルである。

60. 問60．多様なタスクの指示と応答のペアで微調整し、未知の指示にも従えるようにする手法はどれか。

    • ア．インストラクションチューニング
    • イ．知識蒸留
    • ウ．プロンプトチューニング
    • エ．プルーニング

    正解：ア．インストラクションチューニング

    解説：インストラクションチューニング（指示チューニング）は、指示文で表した多数のタスクのデータで言語モデルを微調整する手法で、学習に使っていない種類のタスクでも指示だけで解ける（ゼロショット）性能を高める。FLANの論文で示された。知識蒸留は、大きなモデル（またはモデルの集まり）の知識を小さなモデルに移して扱いやすくする手法。プロンプトチューニングは、モデル本体の重みを固定したまま、入力に付ける学習可能なソフトプロンプトだけを学習して特定のタスクに適応させる手法。プルーニングは、重要度の低い結合を削ってモデルを軽量化する手法である。

    根拠： Wei et al. "Finetuned Language Models Are Zero-Shot Learners"（arXiv:2109.01652） Abstract（instruction tuning＝指示で表したタスク群で微調整し、未知のタスクのゼロショット性能を高める／FLAN） ／ Hinton, Vinyals, Dean "Distilling the Knowledge in a Neural Network"（arXiv:1503.02531） Abstract（アンサンブルの知識を1つのモデルに蒸留する） ／ Lester, Al-Rfou, Constant "The Power of Scale for Parameter-Efficient Prompt Tuning"（arXiv:2104.08691） Abstract（固定した言語モデルに対してソフトプロンプトを学習し特定の下流タスクに適応） ／ Han et al. "Learning both Weights and Connections for Efficient Neural Networks"（arXiv:1506.02626） Abstract（重要でない結合を削除（prune）してパラメータ数を減らす）

61. 問61．重み更新を伴わず、プロンプト内の例や指示だけでタスクに適応する能力の名称はどれか。

    • ア．転移学習
    • イ．文脈内学習（in-context learning）
    • ウ．強化学習
    • エ．自己教師あり学習

    正解：イ．文脈内学習（in-context learning）

    解説：文脈内学習（in-context learning）が該当する。Few-shotプロンプティングがその代表例であり、追加の学習を行わずにプロンプト内の文脈から学び取ってタスクに適応する、LLM特有の能力である。

62. 問62．AIの振る舞いを人間の意図や価値観・倫理に沿わせる取り組みの名称はどれか。

    • ア．知識蒸留
    • イ．正規化
    • ウ．アライメント
    • エ．量子化

    正解：ウ．アライメント

    解説：アライメント（alignment）が該当する。RLHFやDPO、Constitutional AIなどによって有害・不正確な出力を抑え、人間の意図に沿った応答を促す取り組みであり、安全な生成AI実現の中核的な課題である。

63. 問63．出力の多様性・ランダム性を制御し、高くするほど多様な応答になるパラメータはどれか。

    • ア．学習率
    • イ．ドロップアウト率
    • ウ．バッチサイズ
    • エ．温度（temperature）

    正解：エ．温度（temperature）

    解説：温度（temperature）が該当する。値を高くすると確率分布が平坦化して多様性が増し、低くすると確定的な応答に近づく。学習率やバッチサイズは学習時のパラメータであり、生成時の制御とは役割が異なる。

64. 問64．生成AIの入出力を監視・制限し、有害な内容の生成を防ぐ仕組みの名称はどれか。

    • ア．ガードレール
    • イ．オーケストレーション
    • ウ．パイプライン
    • エ．キャッシュ

    正解：ア．ガードレール

    解説：ガードレール（guardrail）が該当する。入力フィルタや出力検証によって安全性を担保する仕組みであり、生成AIの実運用におけるリスク管理として、その設計や導入の重要性が高まっているものである。

65. 問65．生成AIにより本物と見分けにくい偽の画像・音声・動画を作る技術の名称はどれか。

    • ア．オーグメンテーション
    • イ．ディープフェイク
    • ウ．レンダリング
    • エ．シミュレーション

    正解：イ．ディープフェイク

    解説：ディープフェイク（deepfake）が該当する。誤情報の拡散やなりすましなど悪用リスクが高く、社会的信頼性や選挙への影響などの観点から、生成AI時代の重大な社会的課題として対策が議論されている。

66. 問66．LLMがテキストを処理する基本単位の名称として正しいものはどれか。

    • ア．ピクセル
    • イ．ノード
    • ウ．トークン
    • エ．エポック

    正解：ウ．トークン

    解説：トークン（token）が該当する。サブワード単位で分割されることが多く、必ずしも1単語が1トークンになるとは限らない。ピクセルは画像、エポックは学習回数の単位であり、テキスト処理の基本単位ではない。

67. 問67．RAGにおいて、検索対象の文書ベクトルを格納し類似度検索を行うために用いるものはどれか。

    • ア．リレーショナルDBの結合のみ
    • イ．キーバリューストアの完全一致のみ
    • ウ．ファイルの全文逐次走査のみ
    • エ．ベクトルデータベース

    正解：エ．ベクトルデータベース

    解説：ベクトルデータベース（vector database）が該当する。埋め込みベクトルを格納し、コサイン類似度などを用いて意味的に近い文書を高速に検索できる。RAGの検索段階を支える重要な構成要素である。

68. 問68．大規模データで事前学習され、微調整やプロンプトで多様な下流タスクに適応できる汎用モデルの呼称はどれか。

    • ア．基盤モデル（foundation model）
    • イ．決定木モデル
    • ウ．線形回帰モデル
    • エ．エキスパートシステム

    正解：ア．基盤モデル（foundation model）

    解説：基盤モデル（foundation model）が該当する。広範なデータで学習し、多様なタスクへ転用できる汎用性が特徴であり、LLMや画像生成モデルなどが含まれる。特定タスク専用の従来型モデルとは性質が異なる。

69. 問69．画像と、その画像の内容についての問いを入力として受け取り、画像に基づいた答えを出力するマルチモーダルタスクはどれか。

    • ア．Image Captioning
    • イ．Visual Question Answering
    • ウ．Text-To-Image
    • エ．Object Detection

    正解：イ．Visual Question Answering

    解説：画像とそれについての質問から答えを返すタスクは Visual Question Answering（VQA）で、Antol et al.（2015）がデータセットとともに定式化した。Image Captioning は画像から説明文を生成するタスク、Text-To-Image は文章から画像を生成するタスク、Object Detection は物体の位置と種類を求めるタスクである。

70. 問70．テキストから画像を生成する代表的な生成AIサービス・モデルとして最も適切なものはどれか。

    • ア．BERT
    • イ．Whisper
    • ウ．DALL-E
    • エ．word2vec

    正解：ウ．DALL-E

    解説：DALL-Eが該当する。テキストプロンプトから画像を生成するモデルである。BERTは言語理解、Whisperは音声認識、word2vecは単語埋め込みのモデルであり、いずれも画像生成を主目的とはしていない。

71. 問71．画像の一部をマスクし、その領域だけを周囲と自然につながるように生成し直す画像編集の処理はどれか。

    • ア．アウトペインティング
    • イ．超解像
    • ウ．スタイル変換
    • エ．インペインティング

    正解：エ．インペインティング

    解説：インペインティングは画像内の指定した領域を周囲と整合するように埋めて生成し直す処理である。アウトペインティングは画像の外側へ領域を広げて生成し、超解像は低解像度の画像を高解像度にする処理である。

72. 問72．生成AIの大規模学習に関して指摘される主要課題として最も適切なものはどれか。

    • ア．計算コストと環境負荷が大きい点
    • イ．学習が一瞬で完了する点
    • ウ．学習に費用が一切かからない点
    • エ．データを全く必要としない点

    正解：ア．計算コストと環境負荷が大きい点

    解説：大規模学習には膨大な計算資源と電力が必要であり、計算コストと環境負荷の大きさが主要課題とされる。学習が一瞬で完了する、費用がかからない、データが不要といった選択肢はいずれも事実に反している。

73. 問73．プロンプトに少数の入出力例を提示してタスクを学習させる手法の名称はどれか。

    • ア．Zero-shot
    • イ．Few-shot
    • ウ．Chain-of-Thought
    • エ．Fine-tuning

    正解：イ．Few-shot

    解説：Few-shotプロンプティングが該当する。少数の例（ショット）を示してタスクを学習させる手法であり、例を全く示さないのはZero-shot、推論過程を段階的に示すのはChain-of-Thoughtで区別される。

74. 問74．PEFT（Parameter-Efficient Fine-Tuning）の特徴として最も適切なものはどれか。

    • ア．必ず全パラメータを更新する
    • イ．学習を一切行わない
    • ウ．一部パラメータのみ更新し効率化する
    • エ．モデルを毎回ゼロから学習する

    正解：ウ．一部パラメータのみ更新し効率化する

    解説：PEFTは一部のパラメータのみを更新することでメモリや計算コストを抑える微調整手法群である。全パラメータの更新が必須、学習を行わない、毎回ゼロから学習するといった説明はいずれも適切でない。

75. 問75．生成AIと著作権をめぐる論点として最も適切なものはどれか。

    • ア．生成AIは著作権と全く無関係である
    • イ．学習データは権利を考慮する必要が全くない
    • ウ．生成物に著作権の議論は一切ない
    • エ．学習データ利用や生成物の権利が論点になる

    正解：エ．学習データ利用や生成物の権利が論点になる

    解説：学習データの利用の是非や生成物の権利帰属が世界的に議論・係争されている。著作権と全く無関係、議論が一切存在しない、権利を考慮する必要がないといった選択肢はいずれも現状の議論に反している。