AI 導入・運用 ローカル LLM のメリット・デメリット｜実際に触って感じた「できること」と「難しいところ」
ローカル環境で AI を動かす、という選択肢が現実的になってきました。これまでは ChatGPT のように、クラウド上の AI を使うのが一般的でしたが、最近では自分の PC で AI を動かす環境も整ってきています。実際に触ってみると、「...
ローカルLLM
AI 導入・運用 
無料で AI を使う glm-ocr とは？ローカルLLM で OCR は実用になるのか検証してみた（Ollama × n8n）
ローカルLLM で OCR をやろうとすると、思ったよりうまくいかないことが多いです。特に、表が崩れる日本語が不安定レイアウトが壊れるといった問題が出やすく、「結局クラウド API に頼るしかないのか」と感じる場面もあります。そこで試したの...
無料で AI を使う Ollama のモデルファイルが消える問題と保存場所ディレクトリの再検討ログ
Mac mini M4（32GB / 1TB）を導入し、ローカルLLM の実験を続けていますが、先日少し困った事象が発生しました。Ollama のアップデート後に、ダウンロードしていたはずのモデルファイルが消えてしまった可能性がある、という...
AI への投資 Mac mini M4 メモリ 32GB ストレージ 1TB 選定ログ 📝 20万円の予算で ローカルLLM 環境を整える
AI をローカル環境で動かすための中心機材として、Mac mini M4 を選定しました。今回の導入にあたっては、限られた予算の中で「どこにコストをかけ、どこを妥協するか」という選択の連続でした。これは「正解の構成」の提示ではなく、あくまで...
無料で AI を使う Mac mini M4 32GB で ローカルLLM を動かすためのメモリ最適化設定
ローカルLLM を安定して動作させるためには、メモリ（ユニファイドメモリ）の空き容量を確保することが非常に重要です。僕が現在メインで使用している「gpt-oss:20b」というモデルは、単体で 約14GB のメモリを占有します。32GB の...