OllamaでFunction Callingを使う方法｜ローカルLLMにツールを呼び出させてLinuxで自律型AIエージェントを構築する

この記事のポイント

・/api/chat の tools パラメータにJSONスキーマでツールを定義し、tool_callsを検出して実行する
・Function Callingに対応したモデルはllama3.3:70b-instruct-q4_0やmistral:7b-instruct-v0.3-q8_0が代表例
・Pythonのollamaライブラリを使うと数十行でツール連携エージェントを実装できる
・ツール実行可能範囲はコード側のホワイトリストで制限し、LLMに任意実行させない設計が基本

# 取得済みモデルの一覧を確認する
$ ollama list
NAME                              ID            SIZE    MODIFIED
llama3.3:70b-instruct-q4_0       2df51abc23f4  42 GB   2 days ago
mistral:7b-instruct-v0.3-q8_0    a8e15a1a0e7f  7.7 GB  5 days ago
phi4:14b-instruct-q4_0           8f2c3d1e9a12  8.1 GB  3 days ago

# Modelfileを表示してツール対応記述を確認する
$ ollama show llama3.3:70b-instruct-q4_0 --modelfile | head -40
FROM /root/.ollama/models/blobs/sha256-...
TEMPLATE """{{- if .System }}<|start_header_id|>system<|end_header_id|>
...
{{- if .Tools }}
<|start_header_id|>tools<|end_header_id|>
{{ .Tools }}
{{- end }}"""

{
  "type": "function",
  "function": {
    "name": "read_file",
    "description": "指定したパスのテキストファイルを読み取る。ログ確認・設定ファイルの参照が必要なときに使う",
    "parameters": {
      "type": "object",
      "properties": {
        "path": {
          "type": "string",
          "description": "読み取るファイルの絶対パス（例: /var/log/syslog）"
        },
        "max_lines": {
          "type": "integer",
          "description": "読み取る最大行数。省略した場合は全行を返す（例: 50）"
        }
      },
      "required": ["path"]
    }
  }
}

# ツール定義を含むリクエストをcurlで送信する（stream=falseを必ず指定）
$ curl -s http://localhost:11434/api/chat \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama3.3:70b-instruct-q4_0",
    "stream": false,
    "messages": [
      {"role": "user", "content": "/var/log/syslogの最新行を確認してください"}
    ],
    "tools": [
      {
        "type": "function",
        "function": {
          "name": "read_file",
          "description": "指定したパスのテキストファイルを読み取る。ログ確認が必要なときに使う",
          "parameters": {
            "type": "object",
            "properties": {
              "path": {"type": "string", "description": "ファイルの絶対パス（例: /var/log/syslog）"},
              "max_lines": {"type": "integer", "description": "最大行数（例: 20）"}
            },
            "required": ["path"]
          }
        }
      }
    ]
  }' | python3 -m json.tool

# LLMがtool_callsを返した場合の応答例
{
    "message": {
        "role": "assistant",
        "content": "",
        "tool_calls": [
            {
                "function": {
                    "name": "read_file",
                    "arguments": {
                        "path": "/var/log/syslog",
                        "max_lines": 20
                    }
                }
            }
        ]
    },
    "done": true
}

# ツール実行結果を role: "tool" として会話履歴に追加して再送信する
$ curl -s http://localhost:11434/api/chat \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama3.3:70b-instruct-q4_0",
    "stream": false,
    "messages": [
      {"role": "user", "content": "/var/log/syslogの最新行を確認してください"},
      {"role": "assistant", "content": "",
        "tool_calls": [{"function": {"name": "read_file",
          "arguments": {"path": "/var/log/syslog", "max_lines": 20}}}]},
      {"role": "tool",
        "content": "Jul  8 10:00:01 server systemd[1]: Started Daily apt download activities.\nJul  8 10:01:00 server CRON[23456]: (root) CMD (run-parts /etc/cron.hourly)"}
    ]
  }' | python3 -m json.tool

# ollamaライブラリをインストールする
$ pip install ollama

# バージョン確認
$ python3 -c "import ollama; print(ollama.__version__)"
0.4.4

#!/usr/bin/env python3
import subprocess
import ollama

MODEL = "llama3.3:70b-instruct-q4_0"

TOOLS = [
    {
        "type": "function",
        "function": {
            "name": "run_command",
            "description": "許可されたLinuxコマンドを実行して標準出力を返す。サーバー状態の確認が必要なときに使う",
            "parameters": {
                "type": "object",
                "properties": {
                    "command": {
                        "type": "string",
                        "description": "実行するコマンド（例: df -h /var）"
                    }
                },
                "required": ["command"]
            }
        }
    }
]

# 実行を許可するコマンドのホワイトリスト
ALLOWLIST = ["df", "free", "uptime", "hostname", "uname", "cat", "head", "tail"]

def run_command(command: str) -> str:
    cmd_name = command.strip().split()[0]
    if cmd_name not in ALLOWLIST:
        return f"ERROR: {cmd_name} の実行は許可されていません"
    try:
        result = subprocess.run(
            command, shell=True, capture_output=True, text=True, timeout=10
        )
        return result.stdout or result.stderr
    except subprocess.TimeoutExpired:
        return "ERROR: タイムアウトしました"

def agent_loop(user_message: str, max_iterations: int = 10) -> str:
    messages = [{"role": "user", "content": user_message}]
    for _ in range(max_iterations):
        response = ollama.chat(model=MODEL, messages=messages, tools=TOOLS)
        msg = response.message
        tool_calls_data = [tc.model_dump() for tc in (msg.tool_calls or [])]
        messages.append({
            "role": "assistant",
            "content": msg.content or "",
            "tool_calls": tool_calls_data
        })
        if not msg.tool_calls:
            return msg.content
        for tc in msg.tool_calls:
            if tc.function.name == "run_command":
                result = run_command(tc.function.arguments.get("command", ""))
            else:
                result = f"ERROR: 未定義のツール {tc.function.name}"
            messages.append({"role": "tool", "content": result})
    return "ERROR: 最大反復回数に達しました"

if __name__ == "__main__":
    answer = agent_loop("サーバーのディスク使用量とメモリ残量を確認してまとめてください")
    print(answer)

# スクリプトを実行する（LLMがdf -hとfree -hを自律的に呼び出して回答を生成する）
$ python3 ollama_agent.py

現在のサーバー状態をまとめます。

【ディスク使用量（df -h）】
/ (ルート): 120GB中45GB使用 (37%)
/var/log: 8.2GB でやや大きめです。ローテーション設定を確認してください。

【メモリ残量（free -h）】
合計64GB、使用中22GB、バッファ込みで39GBが空きです。
現状はいずれも問題ないレベルですが、/var/log の肥大化には注意してください。

import os

# 読み取りを許可するディレクトリのプレフィックス一覧
ALLOWED_READ_DIRS = ["/var/log/", "/etc/nginx/", "/home/deploy/config/"]

def read_file(path: str, max_lines: int = None) -> str:
    # パスがホワイトリストのいずれかで始まるか確認
    if not any(path.startswith(d) for d in ALLOWED_READ_DIRS):
        return f"ERROR: {path} は読み取り許可外のパスです"
    if not os.path.isfile(path):
        return f"ERROR: {path} が見つかりません"
    try:
        with open(path, "r", encoding="utf-8", errors="replace") as f:
            lines = f.readlines()
        if max_lines:
            lines = lines[:max_lines]
        return "".join(lines)
    except PermissionError:
        return f"ERROR: {path} の読み取り権限がありません"

import requests

# リクエストを許可する内部URLのプレフィックス一覧
ALLOWED_HOSTS = [
    "http://internal-monitoring.example.local",
    "http://inventory-api.example.local"
]

def http_get(url: str, params: dict = None) -> str:
    if not any(url.startswith(h) for h in ALLOWED_HOSTS):
        return f"ERROR: {url} はリクエスト許可外のURLです"
    try:
        resp = requests.get(url, params=params or {}, timeout=10)
        resp.raise_for_status()
        # レスポンスが大きい場合は先頭4,000文字に切り詰める
        return resp.text[:4000]
    except requests.RequestException as e:
        return f"ERROR: リクエスト失敗 - {e}"

ローカルLLMのFunction Callingを2日間で実装する

Ollamaのツール呼び出しをアーキテクチャ設計から実装まで手を動かして習得したい方向けに、「ローカルAIマスターセミナー」を開催しています。
少人数（最大8名）ZOOMハンズオン形式で実施しています。