OllamaをsystemdでサービスとしてLinuxに常時起動させる方法｜override.confで本番運用する

この記事のポイント

・sudo systemctl edit ollama でoverride.confを作成しデフォルト設定を上書きできる
・Environment="OLLAMA_HOST=0.0.0.0:11434" でLAN全体にAPIを公開できる
・OLLAMA_MODELSでモデル保存先を専用ストレージに分離してディスク管理を独立させる
・起動失敗時は journalctl -u ollama -n 50 でログを確認するのが最初の一手

# Ollamaのsystemdユニットファイルを確認
$ systemctl cat ollama
# /etc/systemd/system/ollama.service
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
Environment="HOME=/usr/share/ollama"

[Install]
WantedBy=default.target

# サービスの稼働状態と自動起動設定を確認
$ systemctl status ollama
* ollama.service - Ollama Service
     Loaded: loaded (/etc/systemd/system/ollama.service; enabled; preset: enabled)
     Active: active (running) since Mon 2026-06-22 08:00:00 JST; 1h 30min ago
   Main PID: 1234 (ollama)
      Tasks: 12 (limit: 9517)
     Memory: 1.2 G
     CGroup: /system.slice/ollama.service
             └─1234 /usr/local/bin/ollama serve

# 自動起動が有効かどうか確認
$ systemctl is-enabled ollama
enabled

# override.confを新規作成・編集する（sudoが必要）
$ sudo systemctl edit ollama

# vimを使う場合（SYSTEMD_EDITORを指定）
$ sudo SYSTEMD_EDITOR=vim systemctl edit ollama

# override.confの記述例（エディタに入力する内容）
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_MODELS=/data/ollama/models"

# systemdの設定を再読み込み
$ sudo systemctl daemon-reload

# Ollamaサービスを再起動
$ sudo systemctl restart ollama

# 環境変数が反映されているか確認
$ systemctl show ollama | grep -i environment
Environment=PATH=... HOME=/usr/share/ollama OLLAMA_HOST=0.0.0.0:11434 OLLAMA_MODELS=/data/ollama/models

# ユニットファイルとoverride.confを一括確認
$ systemctl cat ollama
# /etc/systemd/system/ollama.service
[Unit]
...（デフォルトの内容）

# /etc/systemd/system/ollama.service.d/override.conf
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_MODELS=/data/ollama/models"

# override.confの[Service]セクションに追記（sudo systemctl edit ollamaで開く）
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

# 同一ホスト上で起動確認
$ curl http://localhost:11434
Ollama is running

# 別ホストから確認（192.168.1.100 がOllamaサーバーのIPアドレス）
$ curl http://192.168.1.100:11434
Ollama is running

# REST APIでモデルにリクエストを送信
$ curl http://192.168.1.100:11434/api/generate \
  -d '{"model":"gemma3:4b","prompt":"Linuxのjournalctlコマンドの基本は？","stream":false}'
{"model":"gemma3:4b","response":"journalctlはsystemdのジャーナルを参照するコマンドです..."}

# UFWで11434ポートを許可（全IPから）
$ sudo ufw allow 11434/tcp
Rule added
Rule added (v6)

# セキュアな設定：社内サブネットからのみ許可
$ sudo ufw allow from 192.168.1.0/24 to any port 11434
Rule added

# ファイアウォール状態を確認
$ sudo ufw status
Status: active

To                         Action      From
--                         ------      ----
11434/tcp                  ALLOW       Anywhere

# /dataマウントポイント配下に専用ディレクトリを作成
$ sudo mkdir -p /data/ollama/models

# ollama ユーザー・グループに所有者を変更
$ sudo chown -R ollama:ollama /data/ollama

# パーミッションを確認
$ ls -ld /data/ollama/models
drwxr-xr-x 2 ollama ollama 4096 Jun 22 08:30 /data/ollama/models

# sudo systemctl edit ollama で追記（全体の設定例）
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_MODELS=/data/ollama/models"

# daemon-reload + 再起動
$ sudo systemctl daemon-reload
$ sudo systemctl restart ollama

# モデルを取得して保存先を確認
$ ollama pull gemma3:4b
pulling manifest
pulling aabd4debf0c8... 100% ████████ 3.3 GB/3.3 GB
success

# 指定したディレクトリに保存されているか確認
$ ls -lh /data/ollama/models/blobs/ | head -5
total 3.3G
-rw-r--r-- 1 ollama ollama 3.3G Jun 22 09:00 sha256-aabd4debf0c8...

# 本番運用向けのoverride.conf設定例（全体）
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_MODELS=/data/ollama/models"
Environment="OLLAMA_KEEP_ALIVE=-1"
Environment="OLLAMA_MAX_LOADED_MODELS=2"

# Ollamaサービスのログを末尾50行表示
$ journalctl -u ollama -n 50
-- Logs begin at Mon 2026-06-22 00:00:00 JST. --
Jun 22 09:00:01 srv01 ollama[1234]: time=2026-06-22T09:00:01.000+09:00 level=INFO source=routes.go msg="Ollama version 0.6.8"
Jun 22 09:00:01 srv01 ollama[1234]: time=2026-06-22T09:00:01.000+09:00 level=INFO source=routes.go msg="Listening on [::]:11434 (version 0.6.8)"

# リアルタイムでログを追跡する（Ctrl+Cで終了）
$ journalctl -u ollama -f

# 最後の起動（ブート）からのログに絞る
$ journalctl -u ollama --boot

# 特定の時刻以降のログを表示
$ journalctl -u ollama --since "2026-06-22 09:00:00"

# エラーレベル以上のログのみ抽出
$ journalctl -u ollama -p err

# NG：クォートなし（パースエラーになる）
Environment=OLLAMA_HOST=0.0.0.0:11434

# OK：ダブルクォートで囲む
Environment="OLLAMA_HOST=0.0.0.0:11434"

# ollama ユーザーでアクセスできるか確認
$ sudo -u ollama ls /data/ollama/models
ls: cannot open directory '/data/ollama/models': Permission denied

# 所有者とパーミッションを修正
$ sudo chown -R ollama:ollama /data/ollama
$ sudo systemctl restart ollama

# 修正後のログで正常起動を確認
$ journalctl -u ollama -n 10
Jun 22 09:05:00 srv01 ollama[2000]: time=2026-06-22T09:05:00.000+09:00 level=INFO source=routes.go msg="Listening on [::]:11434 (version 0.6.8)"

# 11434ポートを使っているプロセスを特定
$ sudo lsof -i :11434
COMMAND  PID   USER   FD   TYPE DEVICE SIZE/OFF NODE NAME
ollama  5678 ollama   14u  IPv4  98765      0t0  TCP *:11434 (LISTEN)

# 古いプロセスが残っている場合はサービスを再起動して解消
$ sudo systemctl restart ollama

# ポートの空きを確認
$ sudo ss -tlnp | grep 11434
LISTEN  0  4096  *:11434  *:*  users:(("ollama",pid=2001,fd=14))

# Step1: override.confの文法チェック（再起動前に実施）
$ sudo systemd-analyze verify ollama

# Step2: daemon-reload + 再起動
$ sudo systemctl daemon-reload && sudo systemctl restart ollama

# Step3: 稼働状態の確認
$ systemctl status ollama

# Step4: 環境変数が反映されているか確認
$ systemctl show ollama | grep -i environment

# Step5: journalctlで起動直後のログを確認
$ journalctl -u ollama -n 30

ローカルLLMのsystemd設定を2日間体験する

override.confの設定は手順通りに進めても、環境差異やパーミッション周りでつまずくことがあります。実機GPU環境で手を動かしながら習得したい方向けに、「ローカルAIマスターセミナー」を開催しています。
少人数（最大8名）ZOOMハンズオン形式で実施しています。