自分のMacにGemma4を入れたら、ローカルLLMへの期待が高まった
毎月、AIのAPIにいくら払っていますか？
Claude、ChatGPT、Gemini……複数使い分けていると、気づいたら月数千円飛んでいる。「これ、自分のMacで動かせたらタダなのでは」という考えが頭をよぎったことがある人は多いと思います。
今回、その実験をしてみました。
Gemma 4とは
2026年4月2日、GoogleがGemma 4をリリースしました。Gemini 3と同じ研究基盤をもとに作られたオープンモデルで、Apache 2.0ライセンスのため商用利用も自由です。
26Bというサイズに見えますが、実はMoE（Mixture of Experts）という仕組みで、推論時に実際に動くのは約3.8Bのパラメータのみ。「26Bと聞いて重いと思ったら、実は4B相当の速さで動く」という、なかなか面白いモデルです。
テキストだけでなく画像も読めるマルチモーダル対応。コンテキスト長は最大256Kという贅沢な仕様。ローカルで動く選択肢として、かなり話題になっています。
LM Studioで動かしてみた
導入はLM Studioを使いました。GUIで完結するので手順はシンプルです。
LM Studioをインストール（lmstudio.ai）
検索バーに「gemma4」と入力
gemma-4-26B-A4B-Instruct-Q4_K_M（17.99GB）をダウンロード
ダウンロード完了後、「Use in New Chat」で起動
ダウンロードが終わると、チャット画面に「Think」と「Vision」のボタンが現れます。Thinkは回答前に推論ステップを踏むモード、Visionは画像を添付して質問できるモードです。「ローカルなのにこれが使えるのか」と、少し興奮しました。
Thinkモードをオンにすると、回答の前に「Chain of Thought（思考の連鎖）」が展開されます。ローカルでこれほど深い推論プロセスを追えるのは、まさにGemma 4の進化を感じるポイントです。
速度の現実
テキストで質問してみると、回答が出始めるまで数秒、その後ゆっくりと文字が流れてきます。ある程度の量の回答が完成するまで、2〜3分。数値で言うと1.74 tok/secでした。
そして生成中は、MacBook Pro M4 Pro（24GB）でも他の操作がもたつきます。Macが「全力で考えてる」状態になる感じ。
Visionも試してみました。猫の写真を添付して「この写真はどういう写真？」と質問。回答自体はちゃんとしていて、猫がテーブルで休んでいること、リラックスした様子、光の反射まで読み取れていました。精度は合格点。ただし開始まで30秒、完了まで3分ほどかかり、速度は1.41 tok/secでした。
正直に言うと、M4 Pro 24GBでも日常使いとしては速度面がキツいです。
「動くけど快適じゃない」という体験は、ある意味で正直な情報だと思っています。ネット上には「動いた！」という記事は多いですが、速度感まで書いているものは少ない。
小さいモデルなら爆速
試しにE2B-IT（2Bサイズの小型モデル）に切り替えてみたところ、体感が別物になりました。
数値で比較するとこうなります：
Gemma 4 26B（Q4_K_M）：1.74 tok/sec
Gemma 4 E2B-IT：89.18 tok/sec
約51倍の速度差。26Bで2〜3分かかっていた回答が、ほぼ一瞬で返ってきます。
当然、回答の精度や深さは26Bに比べると落ちます（マルチモーダルについては言及がないですし）。ただ「ちょっとした質問に素早く答えてほしい」という用途なら、E2B-ITで十分かもしれません。用途に応じてモデルを使い分けるのが現実的な運用です。
ちなみに、仕様上はE2B-ITもVision（画像認識）に対応しているはずなのですが、私の環境（LM Studio）では「私は画像を見ることができません」と照れ隠し（？）をされてしまいました。……なのに「猫の写真ですね」とも。
面白かったのはその後で、「これは猫の写真です」とテキストで補足してあげたら、毛並み・表情・光の反射まで詳しく解説してくれました。画像は見えていないのに、言葉で誘導すると想像で補完して答える。ある意味、人間に近い動き方かもしれません。
使い分けが現実解
ローカルLLMは「完全移行」ではなく「使い分け」が正解だと感じました。
機密性の高い情報を扱いたいとき
ネットが使えない環境で動かしたいとき
APIコストを気にせず実験したいとき
こういった用途ではローカルが光ります。一方、日常の作業効率を上げたいなら、今はまだクラウドAPIの方が快適です。
Gemma 4はオープンソースのローカルLLMとして現時点でトップクラスの選択肢です。「今は遅い」が、ハードウェアの進化とモデルの軽量化が進めば、1〜2年後には話が変わっているかもしれない。そう思わせてくれるポテンシャルは確かにありました。
ローカルLLMの今後に期待しつつ、まずは環境を作っておく。それだけでも十分価値があると感じています。
あなたはローカルLLMについてどんな期待をしていますか？ぜひコメントで教えてください。気に入っていただけたら、スキもお願いします。
参考リンク：
コメント