OllamaのREST APIを業務システムに組み込む方法｜curl・Python・社内ツール連携の実装手順

この記事のポイント

・Ollama APIは curl -s http://localhost:11434/api/chat でチャット形式のリクエストを送れる
・/api/generateは単発補完、/api/chatは会話履歴を保持するチャット形式で使い分ける
・Pythonからはrequests・ollama公式SDK・openaiライブラリの3通りで呼び出せる
・外部PCから接続するにはOLLAMA_HOST設定とufwによるアクセス制限の両方が必須

# 基本的なgenerate APIリクエスト（stream: falseで全文受信）
$ curl -s http://localhost:11434/api/generate \
  -d '{
    "model": "gemma3:4b",
    "prompt": "Pythonでリスト内包表記の基本を100字で説明してください",
    "stream": false
  }' | python3 -m json.tool

{
    "model": "gemma3:4b",
    "created_at": "2026-06-24T03:00:00.000000000Z",
    "response": "リスト内包表記は `[式 for 変数 in イテラブル]` の形式で...",
    "done": true,
    "done_reason": "stop",
    "total_duration": 2341500000,
    "load_duration": 102400000,
    "prompt_eval_count": 32,
    "eval_count": 87
}

# チャット形式でシステムプロンプト付きリクエスト
$ curl -s http://localhost:11434/api/chat \
  -d '{
    "model": "gemma3:4b",
    "messages": [
      {
        "role": "system",
        "content": "あなたはLinuxサーバー管理の専門家です。簡潔に答えてください。"
      },
      {
        "role": "user",
        "content": "cronで毎日0時にスクリプトを実行するcrontab設定を教えてください"
      }
    ],
    "stream": false
  }' | python3 -c "import sys,json; r=json.load(sys.stdin); print(r['message']['content'])"

cronで毎日0時に実行する場合は以下の設定をcrontabに追加します：
0 0 * * * /path/to/your/script.sh
...

# stream省略時（デフォルトはstream: true）の出力例
{"model":"gemma3:4b","created_at":"2026-06-24T10:05:01Z","message":{"role":"assistant","content":"cron"},"done":false}
{"model":"gemma3:4b","created_at":"2026-06-24T10:05:01Z","message":{"role":"assistant","content":"で"},"done":false}
...
{"model":"gemma3:4b","created_at":"2026-06-24T10:05:05Z","message":{"role":"assistant","content":""},"done":true,"total_duration":3845124834,"eval_count":95}

# ローカルにあるモデル一覧を取得
$ curl -s http://localhost:11434/api/tags | python3 -m json.tool
{
    "models": [
        {
            "name": "gemma3:4b",
            "size": 3340000000,
            "digest": "a72c7f4d3796..."
        }
    ]
}

# APIサーバーの生存確認
$ curl -s http://localhost:11434
Ollama is running

# 現在ロードされているモデルとVRAM使用量の確認
$ curl -s http://localhost:11434/api/ps | python3 -m json.tool
{
    "models": [
        {
            "name": "gemma3:4b",
            "size_vram": 3340000000,
            "details": {
                "parameter_size": "4B"
            }
        }
    ]
}

# Ollamaのsystemdオーバーライドファイルを編集
$ sudo systemctl edit ollama

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

# systemdに変更を読み込ませる
$ sudo systemctl daemon-reload

# Ollamaを再起動
$ sudo systemctl restart ollama

# 待ち受けアドレスを確認
$ sudo ss -tlnp | grep 11434
LISTEN 0 128 0.0.0.0:11434 0.0.0.0:* users:(("ollama",pid=12345,fd=7))

# 接続元PCからの疎通確認（192.168.1.100 はOllamaサーバーのIPアドレス）
$ curl -s http://192.168.1.100:11434/api/tags

# temperatureを低く設定して確定的なコード生成リクエスト
$ curl -s http://localhost:11434/api/generate \
  -d '{
    "model": "gemma3:4b",
    "prompt": "Pythonで文字列を逆順にするコードを1行で書いてください",
    "stream": false,
    "options": {
      "temperature": 0.1,
      "seed": 42,
      "num_predict": 200
    }
  }' | python3 -c "import sys,json; print(json.load(sys.stdin)['response'])"

s = "hello"
print(s[::-1])  # または "hello"[::-1]

# requests利用（pip install requests が必要）
import requests
import json

def ask_ollama(prompt: str, model: str = "gemma3:4b") -> str:
    # Ollama /api/generate を呼び出して回答テキストを返す
    url = "http://localhost:11434/api/generate"
    payload = {
        "model": model,
        "prompt": prompt,
        "stream": False
    }
    response = requests.post(url, json=payload, timeout=120)
    response.raise_for_status()
    return response.json()["response"]

# 使用例
answer = ask_ollama("Linuxのsystemctlでサービスを再起動するコマンドは？")
print(answer)

# pip install ollama でインストール
import ollama

# /api/generate に相当
response = ollama.generate(model="gemma3:4b", prompt="Pythonのwith文の使い方を説明して")
print(response["response"])

# /api/chat に相当（会話履歴付き）
chat_response = ollama.chat(
    model="gemma3:4b",
    messages=[
        {"role": "system", "content": "Linuxの専門家として答えてください"},
        {"role": "user", "content": "viでファイルを保存して終了するショートカットは？"}
    ]
)
print(chat_response["message"]["content"])

# ストリーミング処理（トークンを逐次受信）
stream = ollama.generate(model="gemma3:4b", prompt="cronの書き方を説明して", stream=True)
for chunk in stream:
    print(chunk["response"], end="", flush=True)
print()

import requests

class OllamaChat:
    # 会話履歴を保持するOllamaチャットクライアント

    def __init__(self, model: str = "gemma3:4b", system_prompt: str = ""):
        self.model = model
        self.messages = []
        if system_prompt:
            self.messages.append({"role": "system", "content": system_prompt})

    def chat(self, user_input: str) -> str:
        self.messages.append({"role": "user", "content": user_input})
        payload = {
            "model": self.model,
            "messages": self.messages,
            "stream": False
        }
        r = requests.post("http://localhost:11434/api/chat", json=payload, timeout=120)
        r.raise_for_status()
        reply = r.json()["message"]["content"]
        self.messages.append({"role": "assistant", "content": reply})
        return reply

    def reset(self):
        # 履歴をリセット（system promptは保持）
        self.messages = [m for m in self.messages if m["role"] == "system"]

# 使用例
bot = OllamaChat(model="gemma3:4b", system_prompt="Linux管理の専門家として答えてください")
print(bot.chat("SSHのポートを変更するには？"))
print(bot.chat("その設定をsystemctlで反映させるコマンドも教えて"))

# pip install openai でインストール
from openai import OpenAI

# base_urlをOllamaのエンドポイントに向ける
client = OpenAI(
    base_url="http://localhost:11434/v1",
    api_key="ollama"  # Ollamaは認証不要だが値は必須（何でもよい）
)

response = client.chat.completions.create(
    model="gemma3:4b",
    messages=[
        {"role": "system", "content": "あなたはLinuxのエキスパートです"},
        {"role": "user", "content": "ssコマンドとnetstatコマンドの違いを教えてください"}
    ]
)
print(response.choices[0].message.content)

# SSHの接続が切れないように22番を先に許可（順番を誤ると自分が締め出される）
$ sudo ufw allow 22/tcp

# ufwを有効化
$ sudo ufw enable

# ufw でOllama APIポート(11434)を社内NWのみに制限する
$ sudo ufw allow from 192.168.1.0/24 to any port 11434
$ sudo ufw deny 11434

# 設定確認
$ sudo ufw status
Status: active

To                         Action      From
--                         ------      ----
22/tcp                     ALLOW IN    Anywhere
11434                      ALLOW       192.168.1.0/24
11434                      DENY        Anywhere

# RHEL/Rocky Linux: firewalldで社内セグメントのみ許可
$ sudo firewall-cmd --permanent \
  --add-rich-rule='rule family="ipv4" source address="192.168.1.0/24" port protocol="tcp" port="11434" accept'

$ sudo firewall-cmd --reload

# 確認
$ sudo firewall-cmd --list-rich-rules

# pip install flask requests
from flask import Flask, request, jsonify
import requests

app = Flask(__name__)
OLLAMA_URL = "http://localhost:11434/api/generate"
DEFAULT_MODEL = "gemma3:4b"

@app.route("/ask", methods=["POST"])
def ask():
    data = request.get_json()
    prompt = data.get("prompt", "")
    model = data.get("model", DEFAULT_MODEL)

    if not prompt:
        return jsonify({"error": "promptが必要です"}), 400

    r = requests.post(OLLAMA_URL, json={
        "model": model,
        "prompt": prompt,
        "stream": False
    }, timeout=120)
    r.raise_for_status()
    return jsonify({"response": r.json()["response"]})

if __name__ == "__main__":
    app.run(host="0.0.0.0", port=8080)

# まずOllamaが動いているか確認
$ curl http://localhost:11434
Ollama is running   ← 表示されなければOllamaが停止している

# systemdで起動していない場合は手動起動
$ systemctl status ollama
$ sudo systemctl start ollama

# または手動でサーバーを起動
$ ollama serve &

# 待ち受けアドレスを確認（0.0.0.0 か 127.0.0.1 か）
$ sudo ss -tlnp | grep 11434

# override.confの内容を確認
$ systemctl cat ollama

# ダウンロード済みモデル一覧を確認
$ ollama list
NAME          ID              SIZE      MODIFIED
gemma3:4b     a72c7f4d3796    3.3 GB    2 hours ago

# モデルがない場合はpullで取得
$ ollama pull gemma3:4b
pulling manifest ...

# ストリーミングレスポンスを行ごとにパースする例
import requests, json

r = requests.post("http://localhost:11434/api/generate",
    json={"model": "gemma3:4b", "prompt": "こんにちは"},
    stream=True, timeout=120)

full_text = ""
for line in r.iter_lines():
    if line:
        chunk = json.loads(line)
        full_text += chunk.get("response", "")
        if chunk.get("done"):
            break

print(full_text)

# ロード中のモデルとVRAM使用状況を確認
$ curl -s http://localhost:11434/api/ps | python3 -m json.tool
{
    "models": [
        {
            "name": "gemma3:4b",
            "size_vram": 3340000000,
            "details": {
                "parameter_size": "4B"
            }
        }
    ]
}