技術調査資料

ローカルLLM 概要・必要スペック

対象: Gemma 4 12B 作成: 川上（2026-06-04） 対象読者: 非エンジニア

1ローカルLLM とは

LLM（Large Language Model）とは ChatGPT や Claude のような AI です。通常はクラウド（インターネット上のサーバー）で動作し、質問を送るとインターネット越しに回答が返ってきます。

ローカルLLM は、同じ AI モデルを自分のパソコン・サーバー上で直接動かす仕組みです。クラウドに情報を送らないため、機密情報を安全に扱えます。またインターネット不要・従量課金なしで、繰り返し使い放題です。

メリット: データが外部に出ない / 月額費用がかからない / オフライン動作可

デメリット: GPT-4 / Claude Opus には精度で劣る場合がある / GPU 搭載 PC が必要

2Gemma 4 12B の概要

Google が 2025年に公開したオープンソースモデルです。12B（120億）パラメータながら、日本語対応・コード生成・文書要約など幅広い用途に使えます。

項目内容
正式名称Gemma 4 12B（Google DeepMind）
パラメータ数120 億（12B）
ライセンスGemma Terms of Use（商用利用可、再配布に制限あり）
対応言語日本語・英語を含む多言語
得意な用途 文書要約 Q&A コード生成 メール文案 社内チャットbot
精度の目安ChatGPT-3.5 に近い水準。クラウド GPT-4 / Claude 3 Opus より劣るが、社内 FAQ・文書処理なら十分実用的

3動作に必要なスペック

Gemma 4 12B をローカルで動かすには、GPU 搭載の PC またはサーバーが必要です。CPU だけでも起動はできますが、応答が非常に遅くなります（実用困難）。

必須要件

VRAM（GPU メモリ）
16 GB 以上
12B モデルの量子化版で最低ライン
RAM（システムメモリ）
32 GB 以上
OS・他アプリとの共存分を含む
ストレージ（空き）
30 GB 以上
モデルファイル本体 + OS
CPU
Core i7 / Ryzen 7 相当
GPU が主役なので CPU は補助

推奨構成

環境推奨 GPU / チップ価格帯の目安評価
Windows / Linux PC NVIDIA RTX 3080（10GB VRAM）以上
RTX 4080 / 4090 なら余裕		 GPU 単体 ¥80,000〜 推奨
Mac（Apple Silicon） M2 Pro / M3 Pro 以上（統合メモリ 32GB 以上）
M2 Max / M3 Max ならより快適		 MacBook Pro ¥250,000〜 推奨
CPU のみ（非推奨） なし（GPU なし） — 実用困難

補足: VRAM 10 GB の RTX 3080 でも「量子化版（Q4）」モデルを使えばギリギリ動作します。ただし 16 GB VRAM（RTX 3080 Ti / 3090 など）があれば余裕をもって動かせます。

4インストール方法（概要）

ローカルLLM のセットアップには 2 つの主要ツールがあります。どちらも無料です。

方法 A — Ollama（CLI / サーバー向け）

コマンドラインで動かすツール。Windows / macOS / Linux 対応。API サーバーとして立ち上げて他のアプリから呼び出す使い方に向いています。

  1. ollama.com からインストーラをダウンロード・実行
  2. ターミナルで ollama pull gemma4:12b を実行（モデルをダウンロード）
  3. ollama run gemma4:12b で起動 → チャット開始

参考: https://ollama.com

方法 B — LM Studio（GUI / 非エンジニア向け）

グラフィカルなアプリ。ボタン操作でモデルのダウンロード・起動・チャットが完結します。技術知識が少ない場合はこちらが簡単です。

  1. lmstudio.ai からインストーラをダウンロード・実行
  2. 検索欄で「Gemma」と入力 → Gemma 4 12B を選択してダウンロード
  3. 「Load Model」→「Chat」で即使用可能

参考: https://lmstudio.ai

5keyaki 組織（GCE）での活用可能性

現在 keyaki の VM は GCE e2-standard-2（vCPU 2 / RAM 8 GB）を使用しており、GPU は搭載していません。

項目現在の GCE 構成Gemma 4 12B の要件可否
GPU（VRAM） なし 16 GB 以上 ✗ 不足
RAM 8 GB 32 GB 以上 ✗ 不足
CPU vCPU 2 i7 相当 △ 低速

現状の GCE インスタンスではローカルLLM の実用運用は困難です。
CPU のみでも起動は可能ですが、1 トークンあたり数秒かかる速度になります（会話が非常に遅い）。

GCE で動かすには

GCE で実用的に使うには GPU インスタンスへの変更が必要です。

インスタンス例GPUVRAM月額目安評価
g2-standard-4 NVIDIA L4 24 GB ~$300/月 推奨
a2-highgpu-1g NVIDIA A100 40 GB ~$2,000/月 高価

結論: 佐藤さん用ローカルLLMは GCE ではなく自社ローカルマシン（GPU 搭載 PC）で動かすのが現実的な選択です。GPU なし PC でも動くことは動きますが、応答速度が遅く実用に耐えません。スペック調査の際は「VRAM 16GB 以上の GPU」を最優先にご確認ください。