「モデルが増えてきて、VRAMを使っているモデルや空きメモリをコマンドで素早く確認したい」
そんな疑問を持つLinux管理者やインフラエンジニアは多いはずです。この記事では、OllamaのCLIコマンドを全9コマンド網羅して解説します。
serve・pull・run・list・ps・show・rm・cp・create の役割と実行例を整理し、日常のモデル管理を効率化する使い方をまとめます。systemdサービスとの共存方法や、よくあるCLIエラーの対処法も合わせてカバーします。
この記事のポイント
・ollama ps でロード中モデル・使用VRAM・処理中リクエスト数をリアルタイム確認できる
・ollama show モデル名 でアーキテクチャ・コンテキスト長・量子化形式・デフォルトパラメータを一覧表示する
・ollama run はインタラクティブ・パイプ・1ショットの3パターンで使い分けると業務スクリプトに組み込みやすい
・ollama cp で既存モデルを複製してから ollama create でModelfileを適用するとリスクなしにカスタムモデルを試せる
でも安心してください。プロのエンジニアはコマンドを暗記していません。
「現場で使える型」を効率よく使いこなしているだけです。
Ollamaが提供するCLIコマンド全体マップ
Ollama 0.6系が提供するサブコマンドは10種類です。インストール直後にollama --help を実行すると全一覧が表示されます。
$ ollama --help Usage: ollama [command] Available Commands: serve Start ollama create Create a model from a Modelfile show Show information for a model run Run a model pull Pull a model from a registry push Push a model to a registry list List models ps List running models cp Copy a model rm Remove a model help Help about any command
・
serve: OllamaサーバーをAPI待機状態で起動する・
pull / rm: モデルのダウンロードと削除・
run: 対話・パイプ・1ショット実行・
list / ps: インストール済み一覧と現在ロード中モデルの確認・
show: モデルの詳細情報表示・
cp / create: モデルの複製とカスタムモデル作成・
push: Ollamaレジストリへのアップロード(本記事では割愛)本記事は
push を除く9コマンドを実務ユースケース別に解説します。Ollamaのインストールとサーバー構築の前提はUbuntu ServerでローカルLLMを構築する方法|Ollamaで機密データを外に出さず業務AIを動かす完全ガイドを参照してください。
ollama serveでサーバーを起動して接続を確認する
ollama serve はOllamaのHTTP APIサーバーをフォアグラウンドで起動するコマンドです。systemdでサービスとして動かしている環境では通常このコマンドを手動実行する機会はありませんが、デバッグ時や設定変更を試すときに役立ちます。
1. サーバーの起動とポート確認
# フォアグラウンドで起動(Ctrl+Cで終了) $ ollama serve time=2026-08-05T10:00:00.000Z level=INFO source=routes.go msg="Listening on 127.0.0.1:11434" # 別ターミナルで疎通確認 $ curl -s http://localhost:11434/ Ollama is running
2. バインドアドレスを環境変数で制御する
デフォルトは127.0.0.1:11434 でローカルのみ受け付けます。チームサーバーで他ホストからアクセスさせる場合は環境変数
OLLAMA_HOST で制御します。systemdで自動起動している環境では
/etc/systemd/system/ollama.service.d/override.conf に環境変数を書くのが正しい方法です。
# 一時的に全インターフェースで受け付けて起動する例(テスト用途) $ OLLAMA_HOST=0.0.0.0:11434 ollama serve # systemd override.conf に恒久設定する方法 $ sudo systemctl edit ollama # 以下を追記して保存 [Service] Environment="OLLAMA_HOST=0.0.0.0:11434" $ sudo systemctl daemon-reload $ sudo systemctl restart ollama
ollama serve を手動実行するとポートが競合してエラーになります。先に
sudo systemctl status ollama でサービス状態を確認してから操作してください。
ollama pullでモデルを取得しollama rmで削除する
1. モデルのダウンロード
# 最新タグ(latest)を取得 $ ollama pull llama3.3 # 量子化タグを明示して取得(VRAM 8GB環境向け) $ ollama pull llama3.3:70b-instruct-q4_0 pulling manifest pulling 8e74b9cf-2943... 100% ████████████ 42.5 GB verifying sha256 digest ✓ writing manifest ✓ success
量子化タグはサフィックス形式(
-q4_0 や -q4_K_M)で指定するのが正しい書き方です。:q4_0 のように独立したタグとして指定するのは実在しないため404エラーになります。モデルごとの選択基準はローカルLLMのモデルを比較する方法|Llama3.3・Mistral・Gemma・Phi-4をUbuntuで使い分けるポイントで詳しく解説しています。
2. モデルの削除
# 特定モデルを削除 $ ollama rm llama3.3:70b-instruct-q4_0 deleted 'llama3.3:70b-instruct-q4_0' # 複数モデルをまとめて削除 $ ollama rm gemma3:27b mistral:7b-instruct-q8_0 deleted 'gemma3:27b' deleted 'mistral:7b-instruct-q8_0'
ollama rm を実行する前に ollama list でモデル名とIDを確認してください。ollama cp で複製したモデルはIDが同じblobを共有するため、一方を削除しても他方は引き続き使用できます。削除してもモデルが消えない場合は、同一IDを持つ別タグが残っていないか確認してください。
ollama runでインタラクティブ・パイプ・1ショット実行を使い分ける
ollama run は最も頻繁に使うコマンドです。3つの実行パターンを状況に応じて使い分けます。
1. インタラクティブセッション(対話モード)
$ ollama run llama3.3:70b-instruct-q4_0 >>> Linuxのcronの基本的な書き方を教えてください cronはcrontabファイルで定期実行を設定します... # セッション内で使えるコマンド >>> /bye # セッション終了 >>> /set verbose # トークン数・速度を表示 >>> /show info # 現在のモデル情報を表示
2. パイプ入力(標準入力から送る)
# ファイルの内容を要約させる $ cat /var/log/syslog | head -50 | ollama run llama3.3:70b-instruct-q4_0 "このログを日本語で要約して" # コマンドの説明を生成する $ echo "ps aux | grep ollama" | ollama run phi-4 "このコマンドを説明して"
3. 1ショット実行(スクリプト組み込み向け)
# コマンド引数にプロンプトを渡して即実行・即終了 $ ollama run mistral:7b-instruct-q8_0 "Linuxのtarコマンドで.tar.gzを展開する方法を1行で" tar -xzf ファイル名.tar.gz # シェルスクリプトから呼び出す例 #!/bin/bash RESULT=$(ollama run phi-4 "以下のエラーの原因と対処法を日本語で: $1") echo "$RESULT"
業務文書への組み込み活用例は社内でChatGPTが使えないときの代替手段|機密データを守るローカルLLMという選択肢も参照してください。
ollama listとollama psで現状を把握する
1. インストール済みモデルの一覧
$ ollama list NAME ID SIZE MODIFIED llama3.3:70b-instruct-q4_0 a6eb4748fd29 42 GB 2 days ago mistral:7b-instruct-q8_0 f974a74358d6 7.7 GB 5 days ago phi-4:latest ac896e5b8b34 9.1 GB 1 week ago gemma3:27b-instruct-q4_0 bb9d3e6f1234 17 GB 2 weeks ago nomic-embed-text:latest 0a109f422b47 274 MB 3 weeks ago
SIZE 列でディスク使用量を確認し、不要なモデルを ollama rm で削除する際の参考にします。ID 列のハッシュはモデルblob(GGUFファイルの実体)を一意に識別します。ollama cp で複製したモデルはIDが同じになるため、ディスクを二重消費しません。
2. 現在ロード中のモデルとVRAM使用状況
$ ollama ps NAME ID SIZE PROCESSOR UNTIL llama3.3:70b-instruct-q4_0 a6eb4748fd29 47 GB 100% GPU 4 minutes from now mistral:7b-instruct-q8_0 f974a74358d6 8.4 GB 100% GPU Expired (unloaded)
UNTIL 列はモデルがVRAMにキャッシュされている期限を示します。デフォルトは最終リクエストから5分です。PROCESSOR 列でGPU処理かCPU処理かを確認できます。GPUが認識されていない場合は 100% CPU と表示されるため、環境構築直後に必ず確認してください。SIZE 列の値はディスク上のサイズではなくVRAMに展開されたサイズで、量子化形式によってはディスクサイズより大きくなることがあります。
ollama showでモデルのアーキテクチャとパラメータを確認する
ollama show はモデルの詳細情報を表示します。モデルを選択する際やトラブルシュートの際に役立ちます。
$ ollama show llama3.3:70b-instruct-q4_0 Model architecture llama parameters 70.6B context length 131072 embedding length 8192 quantization Q4_K_M Parameters stop "<|start_header_id|>" stop "<|end_header_id|>" stop "<|eot_id|>" License META LLAMA 3.3 COMMUNITY LICENSE AGREEMENT
context length(コンテキスト長)は入力可能なトークンの最大値です。Llama3.3の131,072トークンは約10万字相当で、長文ドキュメントの要約に十分対応できます。
quantization 列で実際に使われている量子化形式を確認できます。--modelfile オプションを付けると、そのモデルのModelfile形式の設定が出力されます。ollama create でカスタムモデルを作るときのベースとして利用できます。
# Modelfile形式で出力(カスタマイズのベースに使う) $ ollama show llama3.3:70b-instruct-q4_0 --modelfile FROM llama3.3:70b-instruct-q4_0 PARAMETER stop "<|start_header_id|>" PARAMETER stop "<|end_header_id|>" PARAMETER stop "<|eot_id|>"
ollama cpでモデルを複製しollama createでカスタムモデルを登録する
1. モデルを別名で複製する
ollama cp は既存モデルを別名でコピーします。元のGGUFファイルを複製するのではなくメタデータ参照を追加するだけなので、ディスク容量はほとんど増えません。
# llama3.3:70b-instruct-q4_0 を業務用名で複製 $ ollama cp llama3.3:70b-instruct-q4_0 bizassist:latest copied 'llama3.3:70b-instruct-q4_0' to 'bizassist:latest' # 複製後のリスト確認 $ ollama list | grep bizassist bizassist:latest a6eb4748fd29 42 GB 1 second ago
a6eb4748fd29)になっています。ディスク上のGGUFは共有されており、どちらを削除しても残る方で引き続き動作します。
2. Modelfileを使ってカスタムモデルを作成する
ollama create はModelfileを読み込んでカスタムモデルを登録します。ollama show --modelfile の出力を編集してSYSTEMプロンプトとパラメータを追加するのが安全な手順です。
# Modelfileの作成 $ cat > /tmp/Modelfile << 'EOF' FROM llama3.3:70b-instruct-q4_0 SYSTEM """ あなたはLinuxサーバー管理の専門家です。 質問には簡潔・正確に、コマンド例を交えて答えてください。 回答は日本語で。 """ PARAMETER temperature 0.3 PARAMETER num_ctx 8192 EOF # カスタムモデルを作成して登録 $ ollama create linux-expert:latest -f /tmp/Modelfile transferring model data creating model layer ✓ writing manifest ✓ success # 動作確認 $ ollama run linux-expert:latest "sudoとsuの違いを教えて"
ollama rm linux-expert:latest で削除してもベースの llama3.3:70b-instruct-q4_0 は残ります。システムプロンプトを変えて試行錯誤する場合は
ollama create で上書き登録できます。
よくあるCLIエラーとトラブル対処
Ollamaを運用していてよく遭遇するCLIエラーとその対処法をまとめます。エラー1: Error: couldn't connect to ollama server
Ollamaサーバーが起動していない状態でコマンドを実行すると発生します。
$ ollama list Error: couldn't connect to ollama server, make sure the ollama server is running # 確認と起動 $ systemctl status ollama $ curl -s http://localhost:11434/ $ sudo systemctl start ollama
モデル名のタイポや、存在しない量子化タグを指定したときに発生します。
ollama pull llama3.3:q4_0 のように独立した量子化タグを指定するのは誤りです。正しくは量子化タグをサフィックスとして含む完全なタグ名(
llama3.3:70b-instruct-q4_0)を使います。利用可能なタグは ollama.com/library の各モデルページで確認できます。
エラー3: Error: model requires more system memory
利用可能なRAM・VRAMよりも大きいモデルをロードしようとしたときに発生します。
ollama ps で現在のVRAM使用状況を確認し、不要なモデルのキャッシュを解放してから再試行します。
# 現在ロード中のモデルを確認 $ ollama ps # APIでkeep_aliveを0にして既存モデルを即時アンロード $ curl -s -X POST http://localhost:11434/api/generate \ -H "Content-Type: application/json" \ -d '{"model":"llama3.3:70b-instruct-q4_0","prompt":"","keep_alive":0}' # アンロード後に再度psで確認 $ ollama ps NAME ID SIZE PROCESSOR UNTIL (空になっていればVRAMが解放された)
OLLAMA_MAX_LOADED_MODELS 環境変数でVRAMに同時保持するモデル数を制限すると、このエラーを未然に防ぎやすくなります。チームで複数のモデルを切り替えて使う運用の組織的な対応策は、情シス向けのローカルLLM導入事例記事でも詳しく解説しています。
まとめ
OllamaのCLIコマンド全体を整理し、実務での活用場面を解説しました。要点を以下の表にまとめます。| コマンド | 主な使い方 | 実務での活用場面 |
|---|---|---|
ollama serve |
APIサーバー起動 | デバッグ・環境変数変更のテスト |
ollama pull モデル名:タグ |
モデル取得 | 量子化タグを明示して最適版を取得 |
ollama rm モデル名 |
モデル削除 | ディスク節約・不要モデルの整理 |
ollama run モデル名 "プロンプト" |
実行(対話/パイプ/1ショット) | スクリプト組み込みは1ショットが最適 |
ollama list |
インストール済みモデル一覧 | ディスク使用量の把握と整理判断 |
ollama ps |
ロード中モデルとVRAM確認 | GPUオフロード状態のリアルタイム確認 |
ollama show モデル名 |
モデル詳細表示 | コンテキスト長・量子化形式の事前確認 |
ollama cp 元:タグ 先:タグ |
モデル複製 | カスタムモデルのベース作成 |
ollama create 名前 -f Modelfile |
カスタムモデル登録 | SYSTEMプロンプト・パラメータを固定して配布 |
チームサーバーでの構築・運用の基盤についてはUbuntu ServerでローカルLLMを構築する方法も合わせて参照してください。
OllamaのCLI操作とモデル管理を2日間のハンズオンで体験する
本記事で紹介したコマンドは、実機GPU環境で手を動かして初めて感覚がつかめます。ollama ps でVRAM使用率を見ながらモデルを切り替えたり、1ショット実行をシェルスクリプトに組み込んだりする実体験を積みたい方向けに、「ローカルAIマスターセミナー」を開催しています。
少人数(最大8名)ZOOMハンズオン形式で実施しています。
・Ubuntu ServerでローカルLLMを構築する方法|Ollamaで機密データを外に出さず業務AIを動かす完全ガイド
・社内でChatGPTが使えないときの代替手段|機密データを守るローカルLLMという選択肢
・ローカルLLMのモデルを比較する方法|Llama3.3・Mistral・Gemma・Phi-4をUbuntuで使い分けるポイント
3,100名以上が実践した「型」を無料で公開中
プロのエンジニアはコマンドを暗記していません。
「現場で使える型」を効率よく使いこなしているだけです。
その「型」を図解60Pにまとめた入門マニュアルを、完全無料でプレゼントしています。
姓・名・メールの3つだけ/30秒/解除は3秒 / 詳細はこちら

無料メルマガで学習を続ける
Linuxの実践スキルをメールで毎週お届け。
登録は30秒、解除もいつでも可。
登録無料・いつでも解除できます