ローカルLLMのおすすめと選び方｜必要スペック早見表【2026年9月】

モデル・提供状況の情報確認日：2026年9月7日

「ローカルLLMを試したいけれど、モデルが多すぎてどれを選べばいいか分からない」と感じている方も多いのではないでしょうか。検索すると英語のランキングばかりで、結局手が止まってしまう——そんな方のために、この記事では2026年9月7日時点の情報をもとに、モデル選びの考え方と必要スペックの早見表をまとめます。

前提｜「最強のモデル」は存在しない

最初にお伝えしたいのは、誰にとってもベストな1本は存在しない、ということです。ローカルLLMは、お使いのパソコンに載る大きさでしか動きません。つまり「性能の高い順」ではなく「自分の機種で動く中で、目的に合う順」で選ぶのが正解です。順番は、パソコンのスペックを確認する、動く大きさを知る、その範囲で日本語に強いものを選ぶ、の3段階です。

パソコンのスペックで「動く大きさ」が決まる

モデルの大きさはパラメータ数（8B＝約80億など）で表されます。また、モデルを圧縮して軽くする量子化があり、ローカル利用ではQ4と呼ばれる4bit級の量子化版がよく使われます。ただし、必要メモリはモデルの設計、量子化方式、コンテキスト長によって変わります。

環境の目安	試しやすいモデルサイズ（Q4量子化の目安）	使い方の目安
メモリ8GB・GPUなし	1〜4B程度	短い要約や簡単な質問から試す。長文や複数アプリの同時利用は控えめに
メモリ16GB／VRAM6〜8GB程度	4〜8B程度	要約・下書き・分類など日常利用の入口
メモリ32GB／VRAM12〜16GB程度	8〜14B程度	長めの文章や品質を重視する用途。20B以上は設定と速度を要確認
Appleシリコン搭載Mac	16GBなら4〜8B、32GBなら8〜14B程度から	統合メモリを使えるが、OSや他アプリが使う分を残して選ぶ

※上表は主に通常の密なモデルをQ4で試す際の概算で、動作保証ではありません。MoEの有効パラメータ数やGemmaのE表記だけをこの表に当てはめることはできません。配布ファイルの容量、総パラメータ数、実行時の追加メモリを確認してください。コンテキスト長を広げるほどメモリ使用量は増えます。

たとえば通常の8BクラスをQ4で試すなら、VRAM6〜8GBまたは本体メモリ16GB以上が一つの出発点です。ただし、OSや他のアプリが使う分も必要です。ぎりぎりの大きさを選ぶより、少し小さめを軽快に動かし、必要に応じて大きくするほうが比較しやすくなります。

日本語モデルは「2系統」から選ぶ

海外製の多言語モデル

2026年9月に候補を探すなら、Qwen3.5／Qwen3.6やGemma 4を確認してみましょう。新しい世代でも、大きさや用途が違えば必要な環境も変わります。対応言語数だけで日本語の自然さを判断せず、同じ要約やメールの言い換えを試して比較するのが確実です。

Qwen3.6-35B-A3BとGemma 4はApache 2.0ライセンスで公開されています。量子化版や派生モデルを使う場合は、実際にダウンロードする配布元の説明も確認してください。以前のQwen3やGemma 3も、既存環境で安定して動くなら比較候補として残せます。

国内開発・日本語強化モデル

日本語を重視するなら、ELYZAやSwallow、KARAKURI LMなども候補です。国内の研究・開発によるモデルでも、基盤となるモデルや配布形態はそれぞれ異なります。

Swallowでは、Qwen3を基にした8B・32Bなどに加え、GPT-OSS Swallowが2026年2月20日に公開されました。OpenAIのGPT-OSSを基に日本語能力と思考力を強化した20B・120Bの推論型モデルで、Apache 2.0ライセンスです。量子化版の公開状況も開発元で確認できます。

20B・120Bは、ここで紹介している小型モデルと同じ感覚では選べません。とくに120Bは大きなメモリを必要とするため、一般的なノートPCの最初の1本には向きません。日本語性能だけでなく、配布形態・モデルサイズ・ライセンスをセットで確認しましょう。APIや専用のオンプレミス環境で提供されるモデルと、手元のPCにダウンロードして使うモデルも区別してください。

用途で決める

• 要約・下書き・言い換え：中型（7〜14B）で十分実用になる場面が多い
• 手元の文書を読ませて調べる：モデルの読解力に加え、文脈長や文書を検索する仕組みも重要
• 翻訳中心：翻訳特化モデルという選択肢がある
• 複雑な推論・長文の生成：小型モデルでも対応できる場合はあるが、品質と待ち時間を実際の課題で比べる

ローカルLLMとクラウドAIは、情報の取り扱いルールと用途に合わせて使い分けられます。ローカル実行でも、外部ツールへの接続やログの保存先によってはデータが外へ出るため、「手元で動くから安全」とは限りません。

和から式｜同じ3問で2モデルを比べる

モデル名を眺めるだけでは違いが分かりにくいため、和からでは、候補を2つに絞り、同じ3問で比較します。

1. 要約：自分がよく読む文章を200字程度にまとめてもらう
2. 言い換え：社内メールを、自然で丁寧な日本語に直してもらう
3. 事実確認：答えを知っている業務上の質問を出し、間違い方を確認する

比較するのは、正確さ、日本語の自然さ、待ち時間の3点です。大きいモデルが常に最適とは限りません。自分の業務で十分な品質が出る最小のモデルを選ぶと、速度と使いやすさのバランスを取りやすくなります。

選んだあとの動かし方

モデルが決まったら、動かすためのツールを入れます。コマンド操作に抵抗がなければ定番のOllama、画面で操作したいならLM Studioが代表的です。ローカル実行を始める手順は関連記事で解説しています。新しいモデルではアプリ本体だけでなく、実行エンジンの対応バージョンや量子化形式も確認してください。OllamaのQwen3.5配布ページやGemma 4配布ページで、使うタグとモデル容量を確認できます。

よくある質問

Q. 結局、最初の1本はどう選べばいいですか？

A. お使いの機種で動く範囲の中で「やや小さめ」の多言語系モデルから始めるのがおすすめです。小さめなら動作が軽く、試行錯誤がしやすいためです。物足りなくなったら大きくしていきましょう。

Q. 無料で使えますか？商用利用はできますか？

A. 多くのモデルは無料で公開されていますが、利用条件（ライセンス）はモデルごとに異なります。とくに業務利用の場合は、各モデルの公式ページで商用利用の可否を必ず確認してください。

Q. 半年後もこの記事のおすすめは有効ですか？

A. モデルの顔ぶれは入れ替わっている可能性が高いです。ローカルLLMは毎月のように新モデルが出る分野のため、モデル名を覚えるより「スペック→系統→用途」という選び方の軸を持つことが、モデルが変わっても役立つ考え方です。

まとめ

ローカルLLM選びは、パソコンのスペックで動く大きさを知り、海外多言語系か国内日本語特化系かを選び、用途に合わせて調整する、の3段階です。最初の1本は「動く中でやや小さめ」を選び、物足りなくなったら大きくしていく。この順番なら、遠回りせずに自分の1本にたどり着けます。

※本記事は2026年9月7日時点の情報です。モデルの公開状況・ライセンスは変更されるため、導入時は各モデルの公式情報をご確認ください。

関連記事

• 生成AI利用のセキュリティについて詳しく解説した記事はこちら
• ChatGPT・Claude・Gemini・Copilotの使い分けについて詳しく解説した記事はこちら
• OllamaでローカルLLMを動かす手順について詳しく解説した記事はこちら
• マウス操作で使えるLM Studioの使い方について詳しく解説した記事はこちら

---

執筆：和から株式会社 数学講師
「大人のための数学教室 和から」を運営し、累計3万人以上に指導。法人200社以上の研修実績。