OllamaのセキュリティをLinuxで強化する方法｜iptables・Dockerネットワーク隔離・Fail2banでローカルLLMサーバーを保護する手順

この記事のポイント

・OLLAMA_HOST=127.0.0.1:11434をsystemd override.confに設定するだけで外部バインドを即座に防止できる
・ufw allow from 192.168.1.0/24 to any port 11434でLAN内IPのみに絞り込める
・Docker Composeのexpose＋internal networkでホストの11434公開を不要にできる
・Fail2banのOllama用filterとjailを組み合わせて過剰リクエストIPを自動ブロックできる

# drop-inファイルを作成
$ sudo systemctl edit ollama

[Service]
Environment="OLLAMA_HOST=127.0.0.1:11434"

$ sudo systemctl daemon-reload
$ sudo systemctl restart ollama

# バインドアドレスを確認
$ ss -tlnp | grep 11434
LISTEN 0 128 127.0.0.1:11434 0.0.0.0:* users:(("ollama",pid=1234,fd=3,...))

$ sudo ufw status verbose
Status: active

To                         Action      From
--                         ------      ----
22/tcp                     ALLOW IN    Anywhere

# 社内LAN（192.168.1.0/24）からのみ11434を許可
$ sudo ufw allow from 192.168.1.0/24 to any port 11434 proto tcp

# 特定の1台のみ許可する場合
$ sudo ufw allow from 192.168.1.50 to any port 11434 proto tcp

# 11434への残りの全アクセスをブロック（許可ルールより後に追加すること）
$ sudo ufw deny 11434

$ sudo ufw status numbered | grep 11434
[ 2] 11434/tcp              ALLOW IN    192.168.1.0/24
[ 5] 11434                  DENY IN     Anywhere

# 許可されていないIPからの疎通テスト（別ホスト or VPN外から）
$ curl --connect-timeout 5 http://サーバーIP:11434/api/tags
curl: (7) Failed to connect to サーバーIP port 11434: Connection refused

# 許可されているLAN内IPからの疎通テスト
$ curl -s http://サーバーIP:11434/api/tags | python3 -c "import sys,json; d=json.load(sys.stdin); print(d['models'][0]['name'])"
llama3.3:70b-instruct-q4_0

# compose.yml（ポートを外部に公開しない隔離設定）
services:
  ollama:
    image: ollama/ollama:latest
    expose:
      - "11434"          # 同一ネットワーク内のみ有効（ホストには開かない）
    networks:
      - internal_net
    restart: unless-stopped

  app:
    image: myapp:latest
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434
    networks:
      - internal_net
    ports:
      - "8080:8080"      # アプリのみホストに公開

networks:
  internal_net:
    driver: bridge

# ホスト上で11434が開いていないことを確認
$ ss -tlnp | grep 11434
（出力なし）

# コンテナ間では疎通できることを確認
$ docker exec app curl -s http://ollama:11434/api/tags | python3 -c \
  "import sys,json; d=json.load(sys.stdin); print(d['models'][0]['name'])"
llama3.3:70b-instruct-q4_0

$ sudo journalctl -u ollama -f --no-pager | grep -E "POST|GET"
Sep 13 10:23:14 server ollama[1234]: time="2026-09-13T10:23:14+09:00" level=info msg="request" method=POST path=/api/chat
Sep 13 10:23:22 server ollama[1234]: time="2026-09-13T10:23:22+09:00" level=info msg="request" method=POST path=/api/generate

# rsyslog設定ファイルを作成
$ sudo tee /etc/rsyslog.d/50-ollama.conf << 'EOF'
:programname, isequal, "ollama" /var/log/ollama/access.log
& stop
EOF

$ sudo mkdir -p /var/log/ollama
$ sudo chmod 755 /var/log/ollama
$ sudo systemctl restart rsyslog

# 動作確認（Ollamaに1リクエスト送ってから確認）
$ tail -5 /var/log/ollama/access.log
Sep 13 10:25:01 server ollama[1234]: time="..." level=info msg="request" method=POST path=/api/generate

$ sudo tee /etc/logrotate.d/ollama << 'EOF'
/var/log/ollama/access.log {
    daily
    rotate 30
    compress
    missingok
    notifempty
    postrotate
        systemctl reload rsyslog
    endscript
}
EOF

$ sudo apt update && sudo apt install -y fail2ban
$ sudo systemctl enable --now fail2ban
$ sudo fail2ban-client status
Status
|- Number of jail:      1
`- Jail list:   sshd

$ sudo tee /etc/fail2ban/filter.d/ollama.conf << 'EOF'
[Definition]
failregex = ^.*msg="request" method=POST path=/api/generate.*$
            ^.*msg="request" method=POST path=/api/chat.*$
ignoreregex =
datepattern = {^LN-BEG}time="%%Y-%%m-%%dT%%H:%%M:%%S
EOF

$ sudo tee /etc/fail2ban/jail.d/ollama.conf << 'EOF'
[ollama]
enabled  = true
filter   = ollama
logpath  = /var/log/ollama/access.log
maxretry = 100
findtime = 60
bantime  = 3600
port     = 11434
action   = iptables-multiport[name=ollama, port="11434", protocol=tcp]
EOF

$ sudo systemctl restart fail2ban

# jailが有効になったか確認
$ sudo fail2ban-client status ollama
Status for the jail: ollama
|- Filter
|  |- Currently failed: 0
|  |- Total failed:     0
`- Actions
   |- Currently banned: 0
   `- Banned IP list:

ローカルLLMのセキュア運用を2日間のハンズオンで学ぶ

「ufw・Docker隔離・Fail2banを実際のLinux環境で試したい」という方向けに、実機GPU環境で手を動かしながら習得したい方向けに、「ローカルAIマスターセミナー」を開催しています。
少人数（最大8名）ZOOMハンズオン形式で実施しています。