国産LLM「LLM-jp-4」がOSSで登場。Ollamaで動かせるか調べてみた
国立情報学研究所（NII）が2026年4月3日、国産LLM「LLM-jp-4」をオープンソースで公開しました。
この記事では、LLM-jp-4のスペックと、ローカル環境で動かす方法を調べた結果をまとめます。
LLM-jp-4とは
NIIが開発した日本語に強いオープンソースLLMです。約12兆トークンで学習されており、日本語・英語・中国語・韓国語・コードに対応しています。
公開されたモデルは2種類あります。
LLM-jp-4 8B
アーキテクチャ: Llama 2ベース
パラメータ数: 約86億（8B）
日本語MT-Bench: 7.54
英語MT-Bench: 7.79
LLM-jp-4 32B-A3B（MoE）
アーキテクチャ: Qwen3 MoEベース
総パラメータ数: 約320億（32B）
アクティブパラメータ: 約38億（3.8B）
エキスパート数: 128（うち8がアクティブ）
日本語MT-Bench: 7.82
英語MT-Bench: 7.86
MT-Benchのスコアが注目ポイントです。GPT-4oの日本語MT-Benchが7.29なので、LLM-jp-4はそれを上回るスコアを出しています。Qwen3-8Bの7.14も超えています。
ただしMT-Benchは会話能力を測る指標のひとつに過ぎないので、「GPT-4oより賢い」と断言するのは早いです。あくまで参考値として捉えてください。
学習データの内訳
約12兆トークンの内訳は以下のとおりです。
英語: 約17.8兆トークン（最大）
中国語・韓国語: 約8,500億トークン
日本語: 約7,000億トークン
コード: 約2,000億トークン
意外なのは、日本語より英語のほうがはるかに多いことです。英語の大規模コーパスをベースにしつつ、日本語の品質を上げている構造のようです。
Ollamaで動かせるか？
2026年4月4日時点で、OllamaのモデルライブラリにLLM-jp-4は掲載されていません。
ただし、Hugging Faceで公開されているので、GGUF形式に変換すればOllamaで動かせる可能性はあります。
現実的な動かし方としては以下が考えられます。
1. vLLMで動かす
vLLMはLlama 2アーキテクチャに対応しているので、8Bモデルはそのまま動かせるはずです。ただしMac（Apple Silicon）でのvLLM対応はまだ発展途上なので、Linux環境が推奨です。
2. llama.cppで動かす
Llama 2ベースの8BモデルならGGUF変換してllama.cppで動かせます。MoEモデル（32B-A3B）はQwen3ベースなので、llama.cppのQwen3サポート状況次第です。
3. Hugging Face Transformersで動かす
最も確実な方法です。公式のモデルカードに従ってtransformersライブラリから直接ロードできます。
Gemma 4と比べてどう？
同時期にGoogleが公開したGemma 4 E4B（26B MoE、アクティブ4B）と比較すると、位置づけが似ています。
LLM-jp-4 32B-A3B: 総パラメータ32B、アクティブ3.8B
Gemma 4 E4B: 総パラメータ26B、アクティブ4B
どちらもMoEアーキテクチャで、少ないアクティブパラメータで効率的に動作します。
大きな違いは日本語対応です。LLM-jp-4は日本語を重点的に学習しているので、日本語タスクではGemma 4より有利な可能性があります。一方、Gemma 4はOllamaですぐに動かせる手軽さがあります。
まとめ
LLM-jp-4は、国産LLMとしてかなり本格的なモデルです。
GPT-4oを上回るMT-Benchスコア（日本語）
MoEモデルはアクティブ3.8Bで軽量
オープンソースで商用利用可能
現時点ではOllamaで手軽に動かすところまではいけませんが、GGUF変換やvLLMを使えば自前環境での運用は可能です。
日本語に強いローカルLLMを探している方には、今後要チェックのモデルです。コミュニティによるGGUF変換やOllama対応が進むのを待ちつつ、まずはHugging Faceから試してみるのがおすすめです。
コメント