モデル・技術

PaLMとは？Geminiの前にあったGoogle LLM——Pathwaysで育てた事前学習の系譜

読み：パーム ／ 英：PaLM（Pathways Language Model）

更新日： 読了目安：約7分

PaLM（Pathways Language Model）は、GoogleがPathways基盤で大規模事前学習したLLM系列です。試験で今すぐ名前が出るのはGemini（HQ-0316）——PaLMはGemini以前のGoogle言語モデルの系譜として、「誰の・どの世代のモデルか」を歴史的に整理する切り口で押さえます。

Pathwaysと巨大事前学習

PaLMの「P」はPathways——Googleが提唱した、複数のAIタスクを効率よく学習するための分散学習基盤——に由来します。試験ではPathwaysの内部設計より、「大規模データで事前学習したGoogleのLLM」という整理が要点です。

G-383の事前学習——大量データで汎用的な表現を学ぶ段階——PaLMはまさにこの「あ」を巨大スケールで行ったモデル系列の代表例です。その後、特定用途へはファインチューニングやプロンプトで適応します。

PaLMが担った役割

PaLMはサービス名というより、研究・製品の土台になるLLMとして公開されました。

観点PaLMの位置づけ
アーキテクチャTransformerベースのデコーダ型LLM
学習大規模テキストの事前学習
用途テキスト生成・推論・コードなど言語タスクの基盤
時代2022年前後のGoogle LLMブーム。のちにGeminiへ

PaLM 2は後継として幅広く製品に組み込まれ、Bard（のちのGemini）の背後にも登場しました——モデル名の変遷は細部暗記より、Google系LLMの世代の流れとして覚えるのが試験向きです。

Google LLMの世代整理

名称世代・性質試験での整理
BERTエンコーダ中心。理解・分類古典的事前学習（NLP）
PaLM大規模デコーダ型LLMGemini以前のGoogle LLM
Geminiマルチモーダル主力ファミリー現在のGoogle主要生成AI（HQ-0316）
Gemmaオープンウェイト軽量LLM研究・端末向け。別ライン

「GoogleのAI＝Geminiだけ」は危険——PaLMは歴史的なLLM名、Geminiは現在の主力ブランド——開発元は同じでも、試験では主語と説明の対応を確認します（HQ-0292のすり替えパターン）。

基盤モデル文脈での位置

G-396の基盤モデル——大規模データで事前学習され、ファインチューニングやプロンプトで下流タスクに適用できる——PaLMはこの定義に合致するGoogle製のLLM基盤です。

一方、GPTがOpenAI、ClaudeがAnthropic——開発元でモデル系列を切り分けるのが生成AIパスポート第2章の得点源です。PaLMは「Googleの歴史的LLM」、Geminiは「Googleの現在の主力」——二層で整理すると、ChatGPTやClaudeとの比較問題にも強くなります。

試験で押さえるポイント

  • 定義 — Pathways Language Model＝Googleの大規模事前学習LLM系列
  • キーワード — Pathways、事前学習、Google、LLM
  • 世代 — Gemini以前のGoogle言語モデルの代表
  • 対比 — Gemini（現主力）、Gemma（軽量OW）、BERT（エンコーダ）、GPT（OpenAI）

演習で確認する

G検定：G-396、G-383、G-337（BERT対比）

生成AIパスポート：HQ-0316、HQ-0292

すり替えに注意

誤った説明正しい理解
PaLM＝Gemini前世代LLM vs 現主力ファミリー
PaLM＝Gemma大規模クラウドLLM vs 軽量オープンウェイト
PaLM＝BERTデコーダ型LLM vs エンコーダ中心（G-337）
PaLM＝GPTGoogle vs OpenAIの別系列
PaLM＝Pathwaysそのものモデル名 vs 学習基盤の名称

よくある質問

PaLMは何をするモデルですか？

Googleが大規模テキストデータで事前学習した大規模言語モデル系列です。Pathwaysと呼ばれる分散学習基盤を用いて巨大なパラメータ規模のLLMを訓練し、テキスト生成や推論など言語タスクの基盤モデルとして位置づけられました。

PaLMとGeminiは同じですか？

同じではありません。PaLMはGemini以前の世代のGoogle大規模言語モデル系列です。Geminiはその後のGoogle主力マルチモーダルLLMファミリーとして試験でも主要生成AIの代表に位置づけられます。開発元は同じGoogle系ですが、世代と製品ラインが異なります。

PaLMとBERTは同じですか？

同じではありません。BERTは双方向エンコーダ中心の事前学習モデルで、主に理解・分類タスクに広く使われました。PaLMはデコーダ型の大規模言語モデル系列で、テキスト生成を中心とするLLMです。いずれもGoogle関連ですが、アーキテクチャと主用途が異なります。