ローカルLLM を触っていると、必ず出てくるのが「どのモデルを使えばいいのか」という問題です。
ネット上にはおすすめモデルの情報も多いですが、
- 環境によって変わる
- 用途によって変わる
- 実際に使うと印象が変わる
というのが正直なところです。
この記事では、「一般的なおすすめ」ではなく、
- Mac mini M4( 32GB メモリ / 1TB SSD )
- Ollama 0.30.10
という環境で、実際に試して今も使っているモデルをまとめます。
いわゆるランキングではなく、「実験ログ」に近い形です。
これからモデルを選ぶときの参考になればと思います。
使っている環境
今回の検証環境は以下です。
| CPU | Apple M4 |
| メモリ | 32GB |
| ストレージ | 1TB SSD |
| OS | macOS Tahoe 26.3.1(記事作成時点) macOS Tahoe 26.5.1(記事更新時点) |
| Ollama | 0.19.0(記事作成時点) 0.30.10(記事更新時点) |
この構成であれば、20B 〜 35B クラスのモデルも現実的に動かせます。
ただし重要なのは、「動くかどうか」ではなく、
- 快適に使えるか
- 他の作業と両立できるか
という点です。
ローカルLLM はメモリを大きく消費するため、常に余裕を意識する必要があります。
モデル選びの前提
最初に結論っぽい話をしておくと、モデルは1つに絞らない方がいいです。
用途によって向き不向きがあるため、
- 重いけど精度が高いモデル
- 軽くてすぐ試せるモデル
- 特化型モデル
という形で分けた方が使いやすくなります。
この前提で、僕は現在いくつかのモデルを使い分けています。
実際に使っているモデル
ここからは、実際に触って「気に入っているモデル」だけを紹介します。
- 2026年6月
- 2026年4月
| モデル | モデルサイズ | 用途 |
|---|---|---|
| gpt-oss:20b | 約14GB | OCR・JSON整形 |
| gemma4:26b | 約18GB | 日常チャット・記事作成・WordPress自動化 |
| glm-ocr | 約2.2GB | OCR |
| qwen3.6:35b-a3b-nvfp4 | 約21GB | Claude Code・Hermes Agent |
| モデル | モデルサイズ | 用途 |
|---|---|---|
| gpt-oss:20b | 約14GB | OCR・JSON整形 |
| qwen3.5:9b | 約6.6GB | 日常チャット |
| glm-ocr | 約2.2GB | OCR |
| qwen3.5:35b-a3b-coding-nvfp4 | 約22GB | Claude Code・Hermes Agent |
gpt-oss:20b
gpt-oss:20b は、OpenAI が公開したオープンウェイトモデルです。
ローカル環境での利用を前提に設計されており、推論性能と実用性のバランスに優れています。
Ollama では 約14GB で利用でき、ツール呼び出し(Function Calling)や構造化出力(Structured Outputs)、推論(Reasoning)に対応しています。
そのため、チャットだけでなく AI エージェントや自動化処理など、幅広い用途で活用できるモデルです。
公式では 16GB メモリの PC でも動作可能とされていますが、実際には OS やブラウザなど他のアプリもメモリを使用します。
快適に利用するには、32GB 以上のメモリを搭載した環境があると安心です。
.png)
OCR で読み取ったレシートを JSON へ整形したり、家計簿へ仕訳したりする処理で今も活躍しています。回答も安定しているので、自動化処理で安心して使えるモデルです。
ただ、gemma4 登場以来、gpt-oss:20b の出番は少なめかも。
qwen3.5:9b
qwen3.5:9b は、Alibaba が開発する Qwen シリーズのモデルです。
Ollama では 約6.6GB で利用でき、比較的軽量なモデルのため、ローカルLLM を初めて試す人でも導入しやすいサイズとなっています。
Vision・Tools・Thinking に対応しており、文章作成から画像の内容理解、エージェント用途まで幅広く利用できます。
モデルサイズに対して性能のバランスが良く、応答速度も速いため、「まず最初に試す1つ」として選びやすいモデルです。
また、日本語でのやり取りも比較的自然で、日常的なチャットや簡単なコード生成など、幅広い用途で扱いやすい印象があります。
.png)
qwen は中国語の文字が混ざることが割と多い印象があり、文章作成にはあまり使っていません。ただ、チャット用途では応答が速く軽快なので、今でも使いやすいモデルだと思っています。
現在は通常版はアンインストールし、qwen3.5:9b の非検閲モデルだけを残しています。普段は gemma4 をメインに使っているため、qwen は必要なときに使うようにしています。
glm-ocr
glm-ocr は、画像内の文字を高精度で読み取ることに特化したマルチモーダル OCR モデルです。
Ollama では 約2.2GB で利用でき、画像とテキストを入力として扱えます。
一般的な OCR だけでなく、表(テーブル)や数式、図表を含む複雑なドキュメントの認識にも対応しています。
軽量なモデルながら、帳票やレシート、請求書など実務で扱う文書の読み取りにも適しており、OCR 用途でローカル環境を構築したい場合に導入しやすいモデルです。
.png)
レシート OCR 用として使っています。モデルサイズが 約2.2GB と軽量なので、気軽に使えるのも魅力です。半角カナは読み取れないので、その点は割り切って使っていますが、それ以外はかなり精度が高く、ローカルで OCR を完結できるのが気に入っています。
💡 もっと詳しく知りたい方へ
glm-ocrを使ったレシート OCR の検証結果は、別記事で詳しくまとめています。
- OCR の読み取り精度
- n8n との連携方法
- JSON スキーマやプロンプト改善のポイント
- 家計簿自動化までの流れ
など、実際に試した内容を画像付きで紹介しています。
➡️ glm-ocr とは?ローカルLLM で OCR は実用になるのか検証してみた(Ollama × n8n)
qwen3.6:35b-a3b-nvfp4
Qwen3.6-35B-A3B をベースに、NVIDIA がNVFP4 形式へ量子化したモデルです。
MoE(Mixture of Experts)アーキテクチャを採用しており、必要なパラメータだけを有効化して推論するため、35B クラスながら比較的軽快に動作します。
Ollama 版は 約22GB で、僕の Mac mini M4(メモリ32GB)でも快適に利用できています。
チャットやコーディング、エージェント用途など幅広く利用できる、バランスの良いモデルです。
.png)
Claude Code や Hermes Agent などのエージェントツールで使っています。応答速度が速く、コード生成も安定しています。中国語が混ざることがありますが、それ以外は使いやすいモデルです。
以前は qwen3.5:35b-a3b-coding-nvfp4 を使っていましたが、qwen3.6:35b-a3b-nvfp4 にモデルチェンジしました。
gemma4:26b
Gemma 4 は、Google DeepMind が開発する オープンソースLLM です。
テキストだけでなく画像入力にも対応しており、推論やコーディング、エージェント用途など幅広いタスクで利用できます。
gemma4:26b は 約18GB の MoE(Mixture of Experts)モデルです。
モデルサイズの割に軽快に動作し、応答速度と性能のバランスに優れています。
日本語の品質も高く、ローカル環境で日常的に利用しやすいモデルです。
.png)
WordPress の記事作成や自動化でメインに使っているモデルです。日本語がとても自然で安定しているので気に入っています。31B の Dense モデルも試しましたが、僕の環境では重かったため、現在は 26B の MoE モデルを使っています。こちらも非検閲モデルも利用しています。
使い分けの考え方
今のところ、僕の中ではこんな感じで使い分けています。
gpt-oss:20b ※
→ 精度を重視したいときや、じっくり考えてほしい質問に使っています。
qwen3.5:9b ※
→ 普段のチャット用です。応答が速く、日常的に一番使うことが多いモデルです。
glm-ocr
→ レシートOCRや画像からの文字起こし、自動化処理で利用しています。
qwen3.5:35b-a3b-coding-nvfp4
→ Claude Code や Hermes Agent など、エージェントツール用として使っています。
gemma4:26b
→ 日常チャットから長めの文章を書くとき等多岐にわたって利用しています。
重要なのは、最適な1つを探すことではなく、用途ごとに分けることです。
Ollama はモデルの切り替えが簡単なので、
- 試す
- 合わなければ変える
を前提にした方がうまくいきます。
※ gemma4 の登場で gpt-oss:20b と qwen3.5 の利用頻度は減っています。
まとめ
Mac mini M4(32GB)環境で、現在よく使っているモデルは以下の通りです。
- gemma4:26b
- qwen3.6:35b-a3b-nvfp4
- gpt-oss:20b
- glm-ocr
- qwen3.5:9b
この構成にしてから、
- 重すぎて使えない
- 軽いけど精度が足りない
といったストレスはかなり減りました。
ローカルLLM は、
- モデル選び
- メモリ管理
- 使い分け
で体験が大きく変わります。
最初から正解を探すよりも、いくつか試して残すというやり方の方が、結果的に早いです。
今後も、Ollama のアップデートや新モデルに合わせて、このあたりは随時見直していきます。





















