Ollama による意思決定機能の拡充
Ollama は、TypeSafe 社の Jev API をベースとした、新しい「意思決定モデル」への対応を開始しました。
これは Ollama 0.35 から利用可能な、新しい /v1/systemone エンドポイントを通じた機能です。入力したテキスト（state）に対して、あらかじめ定義した一連の質問への回答を、一度のリクエストでまとめて取得できます。
高速なレスポンスと利用可能なモデル
これらのモデルは、ネットワークを経由せずにローカル環境で動作するため、極めて高速な判断が可能です。例えば、M5 Max 環境で nimble 9B モデルを動作させた場合、1 回の判断に平均 91ms という驚異的な速さを記録しました。現在、以下の 3 つのモデルが利用可能です。
- nimble
- tev1
- tev1:0.8b
今後、さらなるモデルの追加や、Ollama のクラウド環境での提供も予定されています。
実装方法の概要
最新の Ollama を使用し、モデルをダウンロードすることで、すぐに使い始めることができます。
ollama pull nimbleリクエストは、curl や Python の SDK を通じて送信できます。以下は、curl を使用したリクエストの構成例です。
curl http://localhost:11434/v1/systemone -d '{
"model": "nimble",
"state": {
"ticket": "I was charged twice. Please refund the extra payment."
},
"questions": {
"team": {
"type": "choice",
"instructions": "Which team should handle this ticket?",
"criteria": {
"billing": "Payments and refunds",
"technical": "Bugs and integrations",
"other": "None of the above"
}
},
"refund": {
"type": "noul",
"instructions": "Does the customer explicitly ask for a refund?"
},
"urgency": {
"type": "score",
"instructions": "How urgent is this ticket?",
"criteria": ["Routine", "Soon", "Urgent"]
}
}
}'この機能がもたらすメリット
この機能は、以下のようなタスクにおいて大きなメリットをもたらします。
- チケットの自動振り分け：問い合わせ内容を、適切な担当チームへ高速に分類できます。
- モデルのルーティング：入力内容に応じて、次に実行すべき AI モデルを即座に決定できます。
- コンテンツのモデレーション：テキストの安全性や適切性を、リアルタイムで判定できます。
今後の展望
今回のリリースは、Ollama が意思決定モデルのサポートを拡充していくための第一歩となります。
参考情報：Ollama now supports Jev-style decision models
※ この記事は、Mac mini M4（32GB）環境で ローカル LLM（Ollama / gemma4:26b）と n8n を組み合わせて生成した実験的な記事です。内容は確認していますが、誤りが含まれる可能性があります。正確な情報は公式情報をご確認ください。
源勝よりひとこと
Ollama v0.35.0 にアップデートして実際に Gmail で受け取ったメールへの返信が必要かどうかの判断に使ってみました。
まだレスポンスの見方なども含めて理解できていない面がありますが、この軽量+高速なモデルでまずは判断し、必要に応じてメールへの下書きを考案させるなどの処理へと繋いでいくなど、用途は広がりそうな気がしました。
Ollama のブログではパックマンのデモ、Ollama の X では Ollama racer というゲームをプレイさせていたのが面白かったです。
Ollama racer はこれ ↓
nimble 9B、tev1 4B / 0.8B を試した時の note はこちら ↓
