Ollamaをインストールする方法｜Ubuntu・WSL2・Docker別の導入手順とモデル取得まで

この記事のポイント

・Ollamaは curl -fsSL https://ollama.com/install.sh | sh の一行でUbuntu・WSL2に導入できる
・WSL2はUbuntuと同じコマンドで動くが、systemd有効化の確認とGPU連携の手順が追加になる
・Dockerでは docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 ollama/ollama で起動できる
・ollama: command not foundが出る場合はPATH再設定と source ~/.bashrc で解消できることが多い

# OSバージョンとアーキテクチャ確認
$ lsb_release -a && uname -m
No LSB modules are available.
Distributor ID: Ubuntu
Description:    Ubuntu 24.04.1 LTS
Release:        24.04
Codename:       noble
x86_64

# Ollama公式インストールスクリプトを実行
$ curl -fsSL https://ollama.com/install.sh | sh
>>> Downloading ollama...
>>> Installing ollama to /usr/local/bin...
>>> Creating ollama user...
>>> Adding ollama to 'render' group...
>>> Adding ollama to 'video' group...
>>> Adding current user to 'ollama' group...
>>> Creating ollama systemd service...
>>> Enabling and starting ollama service...
Created symlink /etc/systemd/system/default.target.wants/ollama.service
>>> The Ollama API is now available at 127.0.0.1:11434.
>>> Install complete. Run "ollama" from the command line.

# systemdサービスの状態確認
$ systemctl status ollama
* ollama.service - Ollama Service
     Loaded: loaded (/etc/systemd/system/ollama.service; enabled; preset: enabled)
     Active: active (running) since Fri 2026-06-20 09:00:00 JST; 30s ago
   Main PID: 3456 (ollama)


# APIエンドポイントが応答するか確認
$ curl http://localhost:11434
Ollama is running

# WSL2バージョン確認（PowerShellで実行）
> wsl --version
WSL バージョン: 2.3.26.0
カーネル バージョン: 5.15.167.4-1

# WSL2のUbuntu内でsystemd設定を確認
$ cat /etc/wsl.conf
[boot]
systemd=true

# /etc/wsl.confを作成してsystemdを有効化
$ sudo tee /etc/wsl.conf << 'EOF'
[boot]
systemd=true
EOF

# PowerShellでWSLを再起動
> wsl --shutdown
> wsl

# WSL2（Ubuntu）でのインストール（Ubuntuと同一コマンド）
$ curl -fsSL https://ollama.com/install.sh | sh

# インストール確認
$ ollama --version
ollama version is 0.6.8

# APIの応答を確認
$ curl http://localhost:11434
Ollama is running

# WSL2内でGPU認識を確認
$ nvidia-smi
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 550.54.15    Driver Version: 550.54.15    CUDA Version: 12.4    |
|-------------------------------+----------------------+----------------------+
|   0  NVIDIA GeForce RTX 3060  On   | 00000000:01:00.0 Off |              N/A |
+-----------------------------------------------------------------------------+

# OllamaのGPU使用状況を確認
$ ollama ps
NAME          ID              SIZE      PROCESSOR    UNTIL
gemma3:4b     a72c7f4d3796    3.3 GB    100% GPU     5 minutes from now

# Dockerのバージョン確認
$ docker --version
Docker version 27.0.3, build 7d4bcd8

# Dockerサービスが動作しているか確認
$ systemctl status docker
* docker.service - Docker Application Container Engine
     Active: active (running)

# CPUのみで起動（GPU不使用）
$ docker run -d \
  --name ollama \
  -v ollama:/root/.ollama \
  -p 11434:11434 \
  ollama/ollama

# NVIDIA GPUを使って起動（nvidia-container-toolkitが必要）
$ docker run -d \
  --name ollama \
  --gpus=all \
  -v ollama:/root/.ollama \
  -p 11434:11434 \
  ollama/ollama

# コンテナ内でollama runを実行（対話モード）
$ docker exec -it ollama ollama run gemma3:4b
pulling manifest
pulling aabd4debf0c8... 100% ████████ 3.3 GB/3.3 GB
>>> こんにちは
はい、こんにちは。何かお手伝いできることはありますか？

# ホスト側からREST APIでプロンプトを送信する
$ curl http://localhost:11434/api/generate \
  -d '{"model":"gemma3:4b","prompt":"cronで毎日0時に実行する書き方は？","stream":false}'

# Gemma 3:4b（軽量・VRAM 4GB～で動作）を取得
$ ollama pull gemma3:4b
pulling manifest
pulling aabd4debf0c8... 100% ████████ 3.3 GB/3.3 GB
verifying sha256 digest
writing manifest
success

# Llama3.3:70b（量子化版・VRAM 24GB以上推奨）を取得
$ ollama pull llama3.3:70b-instruct-q4_0

# Phi-4（Microsoft製・VRAM 12GB推奨）を取得
$ ollama pull phi4

# Gemma 3:4bを起動して対話（モデルが未取得の場合はpullも自動実行）
$ ollama run gemma3:4b
>>> Linuxのcronで毎日0時にスクリプトを実行する書き方は？
cronで毎日0時に実行するには、以下をcrontabに追加します：
0 0 * * * /path/to/script.sh

この設定は毎日午前0時（深夜0時）に指定したスクリプトを実行します...

# /bye で終了、または Ctrl+D
>>> /bye

# ダウンロード済みモデルの一覧表示
$ ollama list
NAME                          ID              SIZE      MODIFIED
gemma3:4b                     a72c7f4d3796    3.3 GB    2 minutes ago
llama3.3:70b-instruct-q4_0    a6eb4748fd29    43 GB     1 hour ago
phi4                          ac896e5b8b34    9.1 GB    30 minutes ago

# 不要なモデルを削除する
$ ollama rm llama3.3:70b-instruct-q4_0
deleted 'llama3.3:70b-instruct-q4_0'

# ollamaコマンドの場所を確認
$ which ollama
/usr/local/bin/ollama

# PATHに/usr/local/binが含まれているか確認
$ echo $PATH
/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin

# PATHに含まれていない場合は.bashrcに追記して反映
$ echo 'export PATH=/usr/local/bin:$PATH' >> ~/.bashrc
$ source ~/.bashrc

# 再確認
$ ollama --version
ollama version is 0.6.8

# バックグラウンドでollamaサーバーを手動起動
$ nohup ollama serve &> /tmp/ollama.log &
[1] 12345

# 起動確認
$ curl http://localhost:11434
Ollama is running

# ログでエラーがないか確認
$ tail -20 /tmp/ollama.log
time=2026-06-20T09:00:00.000+09:00 level=INFO source=routes.go msg="Ollama version 0.6.8"

Ollamaの導入から実務活用までを2日間のハンズオンで体験する

インストールは手順通りに進んでも、環境の差異でつまずくことがあります。実機GPU環境で手を動かしながら習得したい方向けに、「ローカルAIマスターセミナー」を開催しています。
少人数（最大8名）ZOOMハンズオン形式で実施しています。