OllamaをLinuxサーバーごと移行する方法｜モデル・systemd設定をrsyncで新環境へ移設する完全手順

この記事のポイント

・OLLAMA_MODELSのパスを確認してモデルファイルの保存場所を特定する
・rsync --progress --partial でGBクラスの大容量モデルを中断再開しながら転送できる
・新サーバーでsystemd override.confを再設定してOllamaを自動起動する
・移行後は旧サーバーをすぐ削除せず最低1週間並走して動作を確認する

$ ollama --version
ollama version is 0.x.x

$ systemctl cat ollama
# /etc/systemd/system/ollama.service
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
...

# /etc/systemd/system/ollama.service.d/override.conf
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_MODELS=/data/ollama/models"
Environment="OLLAMA_NUM_PARALLEL=2"

$ ollama list
NAME                               ID              SIZE    MODIFIED
llama3.3:70b-instruct-q4_0         abc123def456    41.8 GB 2 days ago
gemma3:27b-instruct-q4_K_M        def456abc123    17.1 GB 5 days ago
mistral:7b-instruct-q8_0          789abc012def    7.7 GB  1 week ago

# systemdのEnvironmentに設定されているパスを確認
$ sudo systemctl show ollama | grep OLLAMA_MODELS
Environment=OLLAMA_MODELS=/data/ollama/models

# 環境変数が設定されていない場合はデフォルトパスを確認
$ sudo -u ollama ls ~/.ollama/models/
blobs  manifests

# OLLAMA_MODELSが設定されている場合
$ du -sh /data/ollama/models/
42G     /data/ollama/models/

# デフォルトパスの場合（ollamaユーザーのホームが/home/ollama等）
$ sudo du -sh /home/ollama/.ollama/models/
42G     /home/ollama/.ollama/models/

$ ls /data/ollama/models/
blobs  manifests

$ ls /data/ollama/models/manifests/registry.ollama.ai/library/
gemma3  llama3.3  mistral

# 新サーバーで実行
$ sudo mkdir -p /data/ollama/models
$ sudo useradd -r -s /bin/false -m -d /home/ollama ollama
$ sudo chown -R ollama:ollama /data/ollama

# 旧サーバーで実行（SSH鍵認証済みであること）
$ rsync -avz --progress --partial \
    /data/ollama/models/ \
    user@new-server-ip:/data/ollama/models/

# 旧サーバーで確認
$ find /data/ollama/models/blobs -type f | wc -l
24

# 新サーバーで確認（同じ数であること）
$ find /data/ollama/models/blobs -type f | wc -l
24

$ curl -fsSL https://ollama.com/install.sh | sh

$ sudo systemctl stop ollama

$ sudo systemctl edit ollama

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_MODELS=/data/ollama/models"
Environment="OLLAMA_NUM_PARALLEL=2"

$ sudo chown -R ollama:ollama /data/ollama
$ sudo systemctl daemon-reload
$ sudo systemctl enable ollama
$ sudo systemctl start ollama
$ sudo systemctl status ollama
Active: active (running) since Sun 2026-11-01 10:00:00 JST; 2s ago

$ ollama list
NAME                               ID              SIZE    MODIFIED
llama3.3:70b-instruct-q4_0         abc123def456    41.8 GB ...
gemma3:27b-instruct-q4_K_M        def456abc123    17.1 GB ...
mistral:7b-instruct-q8_0          789abc012def    7.7 GB  ...

$ curl http://localhost:11434/api/tags
{"models":[{"name":"llama3.3:70b-instruct-q4_0",...},...]}

$ curl http://localhost:11434/api/generate \
    -H "Content-Type: application/json" \
    -d '{"model":"llama3.3:70b-instruct-q4_0","prompt":"Linuxとは","stream":false}' \
    -s | python3 -c "import sys,json; d=json.load(sys.stdin); print('eval_duration:', d['eval_duration']//1000000, 'ms')"
eval_duration: 980 ms

# 新サーバーのOllamaが参照しているパスを確認
$ sudo systemctl show ollama | grep OLLAMA_MODELS
Environment=OLLAMA_MODELS=/data/ollama/models

# 実際にファイルがあるか
$ ls /data/ollama/models/blobs/ | head -3
sha256-0a0bebe6...
sha256-1f29842d...
sha256-c1864a5e...

$ rsync -avz --checksum --progress \
    /data/ollama/models/ \
    user@new-server-ip:/data/ollama/models/

$ journalctl -u ollama -n 20 --no-pager | grep -i "permission\|denied\|error"
...permission denied: /data/ollama/models/blobs...

$ sudo chown -R ollama:ollama /data/ollama
$ sudo systemctl restart ollama

ローカルLLMの構築から移行・運用まで実機ハンズオンで習得する

Ollamaのインストール・systemd設定・rsync移行など、記事で解説した手順は実際のLinuxサーバーで手を動かしながら学ぶと定着が早くなります。実機GPU環境で手を動かしながら習得したい方向けに、「ローカルAIマスターセミナー」を開催しています。
少人数（最大8名）ZOOMハンズオン形式で実施しています。