OllamaのAPIパラメータで出力品質を制御する方法｜temperature・top_p・num_ctxをPythonから動的に調整して用途別AIを実現する

この記事のポイント

・temperature=0.0～0.2でコード生成の精度が安定し、num_predict・num_ctxで速度と長文対応を制御できる
・curl の /api/generate に options オブジェクトを渡すだけでパラメータを即時切り替えられる
・PythonのPRESETS辞書に用途別設定をまとめると、チーム全体の設定標準化と属人化防止につながる
・num_ctx を拡張するほど KV-cache が VRAM を消費するため、nvidia-smi で空き容量を確認してから設定変更する

# temperature=0.2、num_ctx=8192 でコード生成リクエストを送る
$ curl -s http://localhost:11434/api/generate \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama3.3:70b-instruct-q4_0",
    "prompt": "Bashでファイルの行数を数えるワンライナーを書いてください",
    "stream": false,
    "options": {
      "temperature": 0.2,
      "top_p": 0.5,
      "num_ctx": 8192,
      "num_predict": 512
    }
  }' | python3 -m json.tool

# 出力例（responseフィールドに生成テキストが入る）
{
    "model": "llama3.3:70b-instruct-q4_0",
    "created_at": "2026-07-21T10:15:32.841Z",
    "response": "wc -l ファイル名",
    "done": true,
    "total_duration": 4823691200,
    "prompt_eval_count": 32,
    "eval_count": 8
}

# temperature=0.5 で社内Q&A用チャットリクエストを送る
$ curl -s http://localhost:11434/api/chat \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistral:7b-instruct-q8_0",
    "messages": [
      {"role": "user", "content": "Pythonの辞書型を一言で説明してください"}
    ],
    "stream": false,
    "options": {
      "temperature": 0.5,
      "top_p": 0.9,
      "num_ctx": 4096,
      "num_predict": 256
    }
  }' | python3 -m json.tool

# 出力例（message.contentに応答テキストが入る）
{
    "model": "mistral:7b-instruct-q8_0",
    "created_at": "2026-07-21T10:16:44.120Z",
    "message": {
        "role": "assistant",
        "content": "キーと値のペアを管理するハッシュテーブル型のデータ構造です。"
    },
    "done": true
}

import requests

OLLAMA_URL = "http://localhost:11434/api/generate"

def ask_ollama(prompt: str, model: str, options: dict) -> str:
    payload = {
        "model": model,
        "prompt": prompt,
        "stream": False,
        "options": options
    }
    resp = requests.post(OLLAMA_URL, json=payload, timeout=120)
    resp.raise_for_status()
    return resp.json()["response"]

# コード生成プリセット（精度優先・低temperature）
CODE_OPTIONS = {
    "temperature": 0.1,
    "top_p": 0.5,
    "num_ctx": 8192,
    "num_predict": 1024
}

# 文書要約プリセット（長文対応・num_ctx拡張）
SUMMARY_OPTIONS = {
    "temperature": 0.4,
    "top_p": 0.8,
    "num_ctx": 32768,
    "num_predict": 2048
}

# 実行例
result = ask_ollama(
    "Pythonでリストをバブルソートするコードを書いてください",
    "llama3.3:70b-instruct-q4_0",
    CODE_OPTIONS
)
print(result)

PRESETS = {
    "code":    {"temperature": 0.1, "top_p": 0.5, "num_ctx": 8192,  "num_predict": 1024},
    "sql":     {"temperature": 0.0, "top_p": 0.5, "num_ctx": 4096,  "num_predict": 512},
    "summary": {"temperature": 0.4, "top_p": 0.8, "num_ctx": 32768, "num_predict": 2048},
    "qa":      {"temperature": 0.5, "top_p": 0.9, "num_ctx": 4096,  "num_predict": 512},
    "creative":{"temperature": 1.0, "top_p": 0.95,"num_ctx": 4096,  "num_predict": 2048},
}

def ask_ollama_preset(
    prompt: str,
    model: str = "llama3.3:70b-instruct-q4_0",
    preset: str = "qa"
) -> str:
    options = PRESETS.get(preset, PRESETS["qa"])
    return ask_ollama(prompt, model, options)

# コード生成モードで実行
print(ask_ollama_preset(
    "SQLのNULL値を含む行を除外するWHERE句を書いてください",
    preset="sql"
))

# 文書要約モードで実行（長文を渡す場合）
long_doc = open("report.txt").read()
print(ask_ollama_preset(
    f"次の文書を200字以内で要約してください:\n{long_doc}",
    model="mistral:7b-instruct-q8_0",
    preset="summary"
))

# モデル情報を取得してコンテキスト長を確認する
$ curl -s http://localhost:11434/api/show \
  -H "Content-Type: application/json" \
  -d '{"model": "mistral:7b-instruct-q8_0"}' \
  | python3 -c "
import sys, json
d = json.load(sys.stdin)
info = d.get('model_info', {})
for k, v in info.items():
    if 'context' in k.lower():
        print(f'{k}: {v}')
"

# 出力例
# llama.context_length: 32768

# VRAM空き容量を確認する
$ nvidia-smi --query-gpu=memory.used,memory.free,memory.total \
  --format=csv,noheader,nounits

# 出力例（単位: MiB）
# 8452, 7740, 16192

# num_ctx=16384 でテストリクエストを送る
$ curl -s http://localhost:11434/api/generate \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistral:7b-instruct-q8_0",
    "prompt": "次の文章を3行で要約してください: テスト入力",
    "stream": false,
    "options": {"num_ctx": 16384, "temperature": 0.4, "num_predict": 512}
  }' | python3 -c "import sys,json; d=json.load(sys.stdin); print(d['response'])"

# Ollamaのリアルタイムログを確認する（別ターミナルで実行）
$ journalctl -u ollama -f

# コンテキスト超過警告の出力例
# Jul 21 10:22:11 server ollama[1234]: WARN runner.go:890 context limit reached
# Jul 21 10:22:11 server ollama[1234]: truncating to 2048 tokens

ローカルLLMのパラメータ調整を実機で体験する

temperature・num_ctx・用途別プリセットの実装を自分の環境で確かめたい方向けに、「ローカルAIマスターセミナー」を開催しています。
実機GPU環境でAPIパラメータを手を動かしながら調整し、業務ユースケースへの適用まで体験できます。少人数（最大8名）ZOOMハンズオン形式で実施しています。