OllamaのJSON modeで構造化出力を使う方法｜業務データ抽出・フォーム自動化をローカルLLMで確実に実装する

この記事のポイント

・"format": "json" をAPIリクエストに追加するだけでJSON modeが有効になる
・スキーマの固定はシステムプロンプトで行う。モデル側では型・フィールド名を保証しない
・json.loads(response.json()["message"]["content"]) でPythonからパースできる
・本番運用ではjsonschemaバリデーション＋リトライロジックを必ずセットで実装する

# /api/generateでJSON modeを有効にしたリクエスト例
curl http://localhost:11434/api/generate \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama3.3:70b-instruct-q4_0",
    "prompt": "名前:田中太郎、部署:営業部、入社年:2018年 この情報をJSONで返してください",
    "format": "json",
    "stream": false
  }'

# レスポンス例（整形済み表示）
{
  "model": "llama3.3:70b-instruct-q4_0",
  "response": "{\"name\": \"田中太郎\", \"department\": \"営業部\", \"year_joined\": 2018}",
  "done": true
}

# /api/chatでシステムプロンプトと組み合わせたJSON modeの例
curl http://localhost:11434/api/chat \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama3.3:70b-instruct-q4_0",
    "messages": [
      {
        "role": "system",
        "content": "あなたはデータ抽出AIです。入力テキストから情報を抽出し、必ず以下のJSONスキーマのみで返してください。{\"name\": \"string\", \"department\": \"string\", \"year_joined\": \"number\"}"
      },
      {
        "role": "user",
        "content": "名前:田中太郎、部署:営業部、入社年:2018年"
      }
    ],
    "format": "json",
    "stream": false
  }'

# システムプロンプトのスキーマ定義例（問い合わせ分類用）
あなたはサポート問い合わせ分類AIです。
入力されたメール本文を分析し、必ず以下のJSONのみで返してください。
それ以外の文章・説明は一切出力しないこと。

{
  "category": "billing" | "technical" | "general",
  "priority": "high" | "medium" | "low",
  "summary": "50文字以内の要約",
  "requires_escalation": true | false
}

# Few-shot例（システムプロンプトに追記する部分）
【入力例】
「先月の請求書の金額が通知と違っています」

【出力例】
{"category": "billing", "priority": "high", "summary": "請求金額の誤りに関する問い合わせ", "requires_escalation": true}

【入力例】
「パスワードのリセット方法を教えてください」

【出力例】
{"category": "technical", "priority": "low", "summary": "パスワードリセット方法の問い合わせ", "requires_escalation": false}

import requests
import json

OLLAMA_URL = "http://localhost:11434/api/chat"
MODEL = "llama3.3:70b-instruct-q4_0"

SYSTEM_PROMPT = """あなたはサポート問い合わせ分類AIです。
入力されたメール本文を分析し、必ず以下のJSONのみで返してください。
{"category": "billing" | "technical" | "general", "priority": "high" | "medium" | "low", "summary": "50文字以内の要約", "requires_escalation": true | false}"""

def classify_email(email_body: str) -> dict:
    payload = {
        "model": MODEL,
        "messages": [
            {"role": "system", "content": SYSTEM_PROMPT},
            {"role": "user", "content": email_body}
        ],
        "format": "json",
        "stream": False
    }
    response = requests.post(OLLAMA_URL, json=payload, timeout=60)
    response.raise_for_status()
    content = response.json()["message"]["content"]
    return json.loads(content)

# 実行例
result = classify_email("先月の請求書の金額が通知と違います。至急確認をお願いします。")
print(result)
# {"category": "billing", "priority": "high", "summary": "請求金額の誤りに関する問い合わせ", "requires_escalation": true}

# pip install jsonschema
from jsonschema import validate, ValidationError

SCHEMA = {
    "type": "object",
    "required": ["category", "priority", "summary", "requires_escalation"],
    "properties": {
        "category": {"type": "string", "enum": ["billing", "technical", "general"]},
        "priority": {"type": "string", "enum": ["high", "medium", "low"]},
        "summary": {"type": "string", "maxLength": 50},
        "requires_escalation": {"type": "boolean"}
    }
}

def classify_with_validation(email_body: str) -> dict:
    result = classify_email(email_body)
    validate(instance=result, schema=SCHEMA)  # スキーマ不一致時はValidationErrorをraise
    return result

import ollama
import json

response = ollama.chat(
    model="llama3.3:70b-instruct-q4_0",
    messages=[
        {"role": "system", "content": SYSTEM_PROMPT},
        {"role": "user", "content": "請求書の金額が違います"}
    ],
    format="json"
)
result = json.loads(response["message"]["content"])
print(result)

# ログ構造化用のシステムプロンプト例
あなたはサーバーログ解析AIです。
入力されたログ行から情報を抽出し、以下のJSONのみで返してください。
{"timestamp": "ISO8601形式", "level": "ERROR" | "WARN" | "INFO", "service": "サービス名", "message": "エラー内容の要約"}
見つからないフィールドはnullとすること。

import time
from jsonschema import ValidationError

def classify_with_retry(email_body: str, max_retries: int = 3) -> dict | None:
    for attempt in range(max_retries):
        try:
            result = classify_with_validation(email_body)
            return result
        except (json.JSONDecodeError, ValidationError) as e:
            print(f"attempt {attempt + 1}/{max_retries} failed: {e}")
            if attempt < max_retries - 1:
                time.sleep(1)
    return None  # 全リトライ失敗時はNoneを返して呼び出し元で対処

ローカルLLMのJSON mode活用を2日間のハンズオンで体験する

この記事で解説したJSON modeの実装を、実機GPU環境で手を動かしながら習得したい方向けに、「ローカルAIマスターセミナー」を開催しています。
少人数（最大8名）ZOOMハンズオン形式で実施しています。