OllamaをAnsibleで複数Linuxサーバーに一括デプロイする方法｜Playbookで本番クラスターを統一管理する手順

この記事のポイント

・ansible-playbookコマンド一発でOllamaを全サーバーに一括インストールできる
・ollama pullをAnsibleタスク化することで指定モデルを全台に自動展開できる
・--limitや--tagsオプションで特定ホストや特定タスクだけを安全に再実行できる
・Playbookをidempotent設計にすることで何度実行しても副作用が発生しない

# コントロールノードで実行
$ ssh-keygen -t ed25519 -f ~/.ssh/ansible_key -N ""
$ ssh-copy-id -i ~/.ssh/ansible_key.pub ubuntu@192.168.1.101
$ ssh-copy-id -i ~/.ssh/ansible_key.pub ubuntu@192.168.1.102
$ ssh-copy-id -i ~/.ssh/ansible_key.pub ubuntu@192.168.1.103

# 接続確認
$ ssh -i ~/.ssh/ansible_key ubuntu@192.168.1.101 hostname
server-01

# ~/ansible/ollama/inventory.ini
[ollama_servers]
server-01 ansible_host=192.168.1.101 ansible_user=ubuntu ansible_ssh_private_key_file=~/.ssh/ansible_key
server-02 ansible_host=192.168.1.102 ansible_user=ubuntu ansible_ssh_private_key_file=~/.ssh/ansible_key
server-03 ansible_host=192.168.1.103 ansible_user=ubuntu ansible_ssh_private_key_file=~/.ssh/ansible_key

[ollama_servers:vars]
ansible_python_interpreter=/usr/bin/python3

$ ansible -i inventory.ini all -m ping
server-01 | SUCCESS => {
    "changed": false,
    "ping": "pong"
}
server-02 | SUCCESS => {
    "changed": false,
    "ping": "pong"
}
server-03 | SUCCESS => {
    "changed": false,
    "ping": "pong"
}

# ~/ansible/ollama/ollama-deploy.yml
---
- name: Deploy Ollama to all LLM servers
  hosts: ollama_servers
  become: true

  vars:
    ollama_user: ollama
    ollama_models:
      - mistral
      - llama3.3:8b-instruct-q4_0

  tasks:
    - name: Check if ollama binary exists
      stat:
        path: /usr/local/bin/ollama
      register: ollama_bin

    - name: Install Ollama via official installer
      shell: curl -fsSL https://ollama.com/install.sh | sh
      when: not ollama_bin.stat.exists
      args:
        executable: /bin/bash

    - name: Ensure ollama service is enabled and started
      systemd:
        name: ollama
        enabled: true
        state: started

    - name: Wait for Ollama API to be ready
      uri:
        url: http://localhost:11434/api/tags
        status_code: 200
      retries: 15
      delay: 6
      register: api_check
      until: api_check.status == 200

    # ollama-deploy.yml への追記（tasksセクション内）

    - name: Create systemd override directory for ollama
      file:
        path: /etc/systemd/system/ollama.service.d
        state: directory
        mode: '0755'

    - name: Deploy systemd override.conf
      copy:
        dest: /etc/systemd/system/ollama.service.d/override.conf
        content: |
          [Service]
          Environment="OLLAMA_HOST=0.0.0.0:11434"
          Environment="OLLAMA_NUM_PARALLEL=4"
          Environment="OLLAMA_KEEP_ALIVE=30m"
        mode: '0644'
      notify: Reload and restart ollama

  handlers:
    - name: Reload and restart ollama
      systemd:
        name: ollama
        daemon_reload: true
        state: restarted

    # ollama-deploy.yml への追記（api_check待機タスクの直後に追加）

    - name: Pull specified Ollama models
      command: ollama pull {{ item }}
      loop: "{{ ollama_models }}"
      become: true
      become_user: "{{ ollama_user }}"
      register: pull_result
      changed_when: "'pulling manifest' in pull_result.stdout"
      timeout: 600

~/ansible/ollama/
├── inventory.ini              # サーバーグループと接続情報
├── ollama-deploy.yml          # メインPlaybook
├── health-check.yml           # ヘルスチェック用（後述）
├── templates/
│   └── override.conf.j2      # サーバー別パラメータをJinja2展開する場合
└── host_vars/
    ├── server-01.yml          # server-01固有の変数
    ├── server-02.yml
    └── server-03.yml

# ドライラン（変更は実行しない）
$ ansible-playbook -i inventory.ini ollama-deploy.yml --check

# 本番実行
$ ansible-playbook -i inventory.ini ollama-deploy.yml

# 特定サーバーのみ対象にする
$ ansible-playbook -i inventory.ini ollama-deploy.yml --limit server-01

# モデル取得タスクのみ再実行（tagsを事前にタスクへ付与している場合）
$ ansible-playbook -i inventory.ini ollama-deploy.yml --tags models

# 全台のモデル取得状況を一括確認
$ for host in 192.168.1.101 192.168.1.102 192.168.1.103; do
    echo -n "$host: "
    curl -s http://$host:11434/api/tags \
      | python3 -c "import sys,json; d=json.load(sys.stdin); print(len(d['models']),'models')"
  done
# 期待する出力
192.168.1.101: 2 models
192.168.1.102: 2 models
192.168.1.103: 2 models

# ~/ansible/ollama/health-check.yml
---
- name: Health check Ollama on all servers
  hosts: ollama_servers
  tasks:
    - name: Check Ollama API status
      uri:
        url: http://localhost:11434/api/tags
        status_code: 200
      register: health

    - name: Show model count per server
      debug:
        msg: "{{ inventory_hostname }}: {{ health.json.models | length }} models loaded"

OllamaクラスターのAnsible管理を実機で体験する

Ansible＋Ollamaの複数台デプロイは、頭で理解するより手を動かすほうがはるかに速く習得できる。実機GPU環境で手を動かしながら習得したい方向けに、「ローカルAIマスターセミナー」を開催しています。
少人数（最大8名）ZOOMハンズオン形式で実施しています。