ローカルLLMを使い始めてから、いろいろなことを試してきました。
文章を書かせたり、コードを書かせたり、OCR を試したり、AI エージェントと組み合わせたり。
画像生成や音声生成なども触ってみました。
「ローカルLLM で何ができるのか？」と聞かれたら、今ならかなりたくさんのことを挙げられます。
でも、実際にいろいろ試してみると、少し面白いことに気づきます。
「できること」と「実際に使い続けること」は、意外と違う。
技術としては面白い。
動かしてみると「こんなことまでできるのか」と驚く。
でも、毎日のように使うかというと、そうでもない。
逆に、最初はそれほど期待していなかったものが、気づけば日常的に使うようになっていることもあります。
そこで今回は、2026年8月時点で、僕が ローカルLLM を実際に使っていて、「今でも使っている」と感じるものを整理してみます。
もちろん、これは現時点での話です。
ローカルLLM はモデルもツールも変化が速いので、これから使い方が変わる可能性は十分あります。
数か月後、あるいは1年後にこの記事を読み返したとき、「この頃は、こんな使い方をしていたんだな」と思えるような、2026年8月時点の記録として残しておこうと思います。
ローカルLLM で、これまでいろいろなことを試してきた
ローカルLLM を使い始めた頃は、とにかくいろいろ試していました。
僕が使っているのは、主に Mac mini M4（32GB）です。
Ollama を中心に、いろいろなモデルをダウンロードして、「これは何ができるんだろう？」というところから試してきました。
例えば、
- 普通のチャット
- 文章作成
- コード生成
- AI エージェント
- OCR
- n8n との組み合わせ
- 画像生成
- 音声生成
- ローカル環境の自動化
など。
モデルについても、軽量モデルから35Bクラス（容量 20GB 前後）までいろいろ触っています。
新しいモデルが登場すれば、「これ、Mac mini M4 32GB で動くかな？」と試してみる。
動いたら、文章を書かせてみる。
コードを書かせてみる。
ツールを使わせてみる。
画像認識に対応しているモデルなら OCR の性能を試してみる。
そんなことを繰り返してきました。
その結果、2026年8月現在でも使い続けているものと、技術としては面白いけれど、今のところ実用にはあまり使っていないものが、少しずつ分かれてきました。
今でも使っているのは「文章を考えること」
現在、一番身近な ローカルLLM の使い道は、文章を書くことです。
ブログの記事を書いたり、構成を考えたり、文章を整理したり。
もちろん、AI に丸ごと記事を書かせて、そのまま公開しているわけではありません。
自分で考えていることを整理するために使うことが多いです。
例えば、「こういうことを書きたいんだけど、うまくまとまらない」というときに AI に投げてみる。
すると、自分では気づいていなかった論点が出てきたり、逆に、「いや、そこは自分の考えとは違うな」と気づいたりします。
この「違う」と思えることも結構重要です。
AI に正解を出してもらうというより、自分が何を考えているのかを確認するために使う。
そんな使い方になってきました。
モデルもいろいろ試しましたが、文章を書く用途では、最近は Qwen 系よりも Gemma 4 を使うことが増えています。
もちろん、これも2026年8月時点の話です。
新しいモデルが出れば、また変わるかもしれません。
OCR・データ処理は、かなり実用になった
もう一つ、実際に「これは使える」と感じたのが OCR です。
特に試したのが、領収書などの画像を ローカルLLM で読み取って、データとして扱う方法です。
例えば、
領収書を OCR する
↓
内容を AI で整理する
↓
JSON として取り出す
↓
n8n で処理する
↓
Google Sheets に記録する
といった流れです。
ここでは GLM-OCR などを使って試しました。
もちろん、OCR なので読み間違いがゼロになるわけではありません。
実際に使っていると、「そこを間違えるのか」ということもあります。
でも、AI に全部任せるのではなく、自動化ツール等と組み合わせることで、かなり実用的な形にできます。
ここで面白いと思ったのは、ローカルLLM を「チャット相手」として使っているわけではないことです。
AI そのものと会話することが目的ではなく、自分がやりたい処理の一部を AI に担当してもらう。
この形になると、ローカルLLM の使い道がかなり広がります。
コーディングや AI エージェントも、必要になれば使う
AI エージェントもかなり試しました。
Ollama と Claude Code を組み合わせたり、OpenClaw や Hermes Agent を試したり。
ローカルLLM にファイルを操作させたり、コードを書かせたり。
Mac mini M4 32GB でも、35Bクラスのモデルを使った AI エージェントが動くことには、かなり驚きました。
以前なら、「こんなことをローカルでやるのは無理じゃない？」と思っていたことが、普通にできるようになっています。
ただ、現在の自分が AI エージェントを毎日使っているかというと、そういうわけでもありません。
これは AI エージェントが使えないからではありません。
今、自分が AI エージェントに任せたい仕事が、それほどないからです。
例えば、これから自分で新しいサービスを作りたくなったら、また AI エージェントを積極的に使い始める可能性は高いと思っています。
コードを書く必要が出てくれば、Claude Code などのコーディングが得意なツールを使う。
作業を自動化したくなれば、n8n などの自動化ツールと AI を組み合わせて使う。
つまり、AI エージェントを使うために仕事を探すのではなく、やりたいことがあって、そのために AI エージェントを使う。
今はそんな感覚です。
画像生成は「できる」と「実用する」の間にある
画像生成も、これまでかなり試してきました。
ComfyUI を触ったり、ローカルで画像生成モデルを動かしたり。
技術としてはかなり面白いです。
「自分の Mac でここまで画像を生成できるのか」と感じることもあります。
ただ、画像生成については、現在のところ「実用している」とは言いにくい状態です。
理由の一つが、ライセンスや権利関係です。
単純に、「画像を生成できた！」だけなら、それで終わりです。
でも、それを自分のブログで使う。
仕事で使う。
商品に使う。
となると、
- このモデルは商用利用できるのか
- モデルのライセンスはどうなっているのか
- 生成物をどう扱えるのか
- 他者の権利を侵害していないか
など、考えることが増えてきます。
もちろん、これらについて詳しく調べて判断できるようになれば、使い方は変わるかもしれません。
ただ、2026年8月現在の自分は、画像生成モデルを実用に使うところまで、自分の知識や経験がまだ追いついていないというのが正直なところです。
なので、「画像生成を使わなくなった」というより、「情報は追っているし、たまに試している。でも、まだ実用の中心には置いていない」という状態です。
音声生成も同じ
音声生成も試しました。
Irodori-TTS のような日本語 TTS（Text-to-Speech）モデルを実際に動かしてみたり、音声を生成したり。
これも技術としては面白いです。
ただ、現時点では日常的に使う用途がありません。
「できること」は分かった。
でも、「自分は何のために使うのか？」というところまで落とし込めていない。
だから、今は情報を追いながら、ときどき試すくらいです。
いろいろ試した結果、「AI に全部やってもらう」という考え方ではなくなった
ローカルLLM や AI エージェントを触り始めた頃は、もっと違う期待を持っていました。
AI がパソコンを操作して、「これやって」と言ったら勝手に全部やってくれる。
そのうち、
そんな未来を想像することもありました。
今思えば、かなり夢を見ていたと思います。
もちろん、AI エージェントは実際に進化しています。
パソコンを操作することもできる。
コードを書くこともできる。
複数の作業をつなげることもできる。
でも、いろいろ触ってきたからこそ、今は少し考え方が変わりました。
AI を使うこと自体を目的にしなくなった。
これが一番大きいかもしれません。
「AI に何をさせるか」より「自分は何をしたいのか」
今は、「AIに何をさせよう？」と考えるより、「自分は何をしたいんだろう？」を先に考えるようになりました。
例えば、記事を書きたい。
それなら AI に文章を考えてもらう。
領収書の処理を楽にしたい。
それなら OCR と AI と n8n を組み合わせる。
サービスを作りたい。
それなら AI エージェントにコードを書いてもらう。
画像が必要になった。
そこで初めて画像生成を検討する。
つまり、自分のやりたいことが先にあって、そのために AI を使う。
AI が主役ではありません。
自分が主軸にいて、AI はその力を発揮してくれる。
最近は、そんな感覚になっています。
2026年8月時点で、僕が ローカルLLM を使っていること
ここまでを整理すると、現在の自分の ローカルLLM の使い方は、だいたいこんな感じです。
今でもよく使っている
- 文章を書く・考える
- 情報を整理する
- OCR
- データ処理
- 新しいモデルを試す
必要になれば使う
- コーディング
- Claude Code・Hermes Agent・Chat GPT Work（Desktop系）
- AI エージェント
- 自動化
情報を追いながら、ときどき試している
- 画像生成
- 音声生成
- その他の新しい AI ツール
こうして並べてみると、ローカルLLM を使い始めた頃と比べて、かなり使い方が変わった気がします。
「何でも AI にやってもらう」という方向ではなく、自分がやりたいことの中に、AI を必要なだけ組み込む。
今はそんな使い方が一番しっくりきています。
これは2026年8月時点の話
ただし、これを「ローカルLLM の使い道はこうです」と言いたいわけではありません。
あくまで、2026年8月時点の自分がそう使っているという話です。
ローカルLLM の世界は変化がかなり速いです。
新しいモデルが登場すれば、今までできなかったことができるようになるかもしれません。
今は実用していない AI エージェントも、自分が新しいサービスを作りたくなれば、一気に使用頻度が上がるかもしれません。
画像生成についても、ライセンスや権利関係を含めて自分が納得できる環境が見つかれば、使い方が変わる可能性があります。
だから、今後も同じ使い方をしているとは思っていません。
むしろ、変わっていくほうが自然だと思っています。
この記事も、そういう意味では「ローカルLLM の使い道を紹介する記事」というより、2026年8月の自分が、ローカルLLM とどう付き合っているのかを残しておく記事なのかもしれません。
数か月後に読み返して、「この頃はこんな使い方をしていたんだな」と思えたら、それはそれで面白い。
ローカルLLM を使っていると、モデルの進化だけではなく、自分自身の AI との付き合い方が変わっていくことも、意外と面白いところなのかもしれません。
