OllamaのREST APIを業務システムに組み込む方法｜curl・Python・社内ツール連携の実装手順

この記事のポイント

・Ollama APIは curl -s http://localhost:11434/api/generate でリクエストを送れる
・/api/generateは単発補完、/api/chatは会話履歴を保持するチャット形式で使い分ける
・Pythonからはrequestsライブラリまたはollama公式SDKで簡単に呼び出せる
・APIに認証機構はないため、社内ツールへ組み込む際はufwでアクセス制限が必須

# 基本的なgenerate APIリクエスト（stream: falseで全文受信）
$ curl -s http://localhost:11434/api/generate \
  -d '{
    "model": "gemma3:4b",
    "prompt": "Pythonでリスト内包表記の基本を100字で説明してください",
    "stream": false
  }' | python3 -m json.tool

{
    "model": "gemma3:4b",
    "created_at": "2026-06-24T03:00:00.000000000Z",
    "response": "リスト内包表記は `[式 for 変数 in イテラブル]` の形式で...",
    "done": true,
    "done_reason": "stop",
    "total_duration": 2341500000,
    "load_duration": 102400000,
    "prompt_eval_count": 32,
    "eval_count": 87
}

# チャット形式でシステムプロンプト付きリクエスト
$ curl -s http://localhost:11434/api/chat \
  -d '{
    "model": "gemma3:4b",
    "messages": [
      {
        "role": "system",
        "content": "あなたはLinuxサーバー管理の専門家です。簡潔に答えてください。"
      },
      {
        "role": "user",
        "content": "cronで毎日0時にスクリプトを実行するcrontab設定を教えてください"
      }
    ],
    "stream": false
  }' | python3 -c "import sys,json; r=json.load(sys.stdin); print(r['message']['content'])"

cronで毎日0時に実行する場合は以下の設定をcrontabに追加します：
0 0 * * * /path/to/your/script.sh
...

# ローカルにあるモデル一覧を取得
$ curl -s http://localhost:11434/api/tags | python3 -m json.tool
{
    "models": [
        {
            "name": "gemma3:4b",
            "size": 3340000000,
            "digest": "a72c7f4d3796..."
        }
    ]
}

# APIサーバーの生存確認
$ curl -s http://localhost:11434
Ollama is running

# 現在ロードされているモデルの確認
$ curl -s http://localhost:11434/api/ps | python3 -m json.tool

# temperatureを低く設定して確定的なコード生成リクエスト
$ curl -s http://localhost:11434/api/generate \
  -d '{
    "model": "gemma3:4b",
    "prompt": "Pythonで文字列を逆順にするコードを1行で書いてください",
    "stream": false,
    "options": {
      "temperature": 0.1,
      "seed": 42,
      "num_predict": 200
    }
  }' | python3 -c "import sys,json; print(json.load(sys.stdin)['response'])"

s = "hello"
print(s[::-1])  # または "hello"[::-1]

# requests利用（pip install requests が必要）
import requests
import json

def ask_ollama(prompt: str, model: str = "gemma3:4b") -> str:
    """Ollama /api/generate を呼び出して回答テキストを返す"""
    url = "http://localhost:11434/api/generate"
    payload = {
        "model": model,
        "prompt": prompt,
        "stream": False
    }
    response = requests.post(url, json=payload, timeout=120)
    response.raise_for_status()
    return response.json()["response"]

# 使用例
answer = ask_ollama("Linuxのsystemctlでサービスを再起動するコマンドは？")
print(answer)

# pip install ollama でインストール
import ollama

# /api/generate に相当
response = ollama.generate(model="gemma3:4b", prompt="Pythonのwith文の使い方を説明して")
print(response["response"])

# /api/chat に相当（会話履歴付き）
chat_response = ollama.chat(
    model="gemma3:4b",
    messages=[
        {"role": "system", "content": "Linuxの専門家として答えてください"},
        {"role": "user", "content": "viでファイルを保存して終了するショートカットは？"}
    ]
)
print(chat_response["message"]["content"])

# ストリーミング処理（トークンを逐次受信）
stream = ollama.generate(model="gemma3:4b", prompt="cronの書き方を説明して", stream=True)
for chunk in stream:
    print(chunk["response"], end="", flush=True)
print()

import requests

class OllamaChat:
    """会話履歴を保持するOllamaチャットクライアント"""

    def __init__(self, model: str = "gemma3:4b", system_prompt: str = ""):
        self.model = model
        self.messages = []
        if system_prompt:
            self.messages.append({"role": "system", "content": system_prompt})

    def chat(self, user_input: str) -> str:
        self.messages.append({"role": "user", "content": user_input})
        payload = {
            "model": self.model,
            "messages": self.messages,
            "stream": False
        }
        r = requests.post("http://localhost:11434/api/chat", json=payload, timeout=120)
        r.raise_for_status()
        reply = r.json()["message"]["content"]
        self.messages.append({"role": "assistant", "content": reply})
        return reply

    def reset(self):
        """履歴をリセット（system promptは保持）"""
        self.messages = [m for m in self.messages if m["role"] == "system"]

# 使用例
bot = OllamaChat(model="gemma3:4b", system_prompt="Linux管理の専門家として答えてください")
print(bot.chat("SSHのポートを変更するには？"))
print(bot.chat("その設定をsystemctlで反映させるコマンドも教えて"))

# ufw でOllama APIポート(11434)を社内NWのみに制限する
$ sudo ufw allow from 192.168.1.0/24 to any port 11434
$ sudo ufw deny 11434

# 設定確認
$ sudo ufw status
Status: active

To                         Action      From
--                         ------      ----
11434                      ALLOW       192.168.1.0/24
11434                      DENY        Anywhere

# pip install flask requests
from flask import Flask, request, jsonify
import requests

app = Flask(__name__)
OLLAMA_URL = "http://localhost:11434/api/generate"
DEFAULT_MODEL = "gemma3:4b"

@app.route("/ask", methods=["POST"])
def ask():
    data = request.get_json()
    prompt = data.get("prompt", "")
    model = data.get("model", DEFAULT_MODEL)

    if not prompt:
        return jsonify({"error": "promptが必要です"}), 400

    r = requests.post(OLLAMA_URL, json={
        "model": model,
        "prompt": prompt,
        "stream": False
    }, timeout=120)
    r.raise_for_status()
    return jsonify({"response": r.json()["response"]})

if __name__ == "__main__":
    app.run(host="0.0.0.0", port=8080)

# まずOllamaが動いているか確認
$ curl http://localhost:11434
Ollama is running   ← 表示されなければOllamaが停止している

# systemdで起動していない場合は手動起動
$ systemctl status ollama
$ sudo systemctl start ollama

# または手動でサーバーを起動
$ ollama serve &

# ダウンロード済みモデル一覧を確認
$ ollama list
NAME          ID              SIZE      MODIFIED
gemma3:4b     a72c7f4d3796    3.3 GB    2 hours ago

# モデルがない場合はpullで取得
$ ollama pull gemma3:4b
pulling manifest ...

# ストリーミングレスポンスを行ごとにパースする例
import requests, json

r = requests.post("http://localhost:11434/api/generate",
    json={"model": "gemma3:4b", "prompt": "こんにちは"},
    stream=True, timeout=120)

full_text = ""
for line in r.iter_lines():
    if line:
        chunk = json.loads(line)
        full_text += chunk.get("response", "")
        if chunk.get("done"):
            break

print(full_text)

Ollama API連携から業務活用まで2日間のハンズオンで体験する

curlで叩ける状態から、Pythonで業務ツールに組み込むところまで手を動かして習得したい方向けに、「ローカルAIマスターセミナー」を開催しています。
少人数（最大8名）ZOOMハンズオン形式で実施しています。