OllamaとTelegramボットを連携させる方法｜ローカルLLMをスマートフォンからチームで安全に使う手順

この記事のポイント

・OllamaのREST APIとTelegram Bot APIをPythonスクリプトで橋渡しし、スマートフォンからローカルLLMへ話しかけられるボットを構築する
・ユーザーID許可リストを実装してBot乗っ取りを防ぎ、外出先からでも安全に利用できる環境にする
・systemdユニットファイルで常時起動化すれば、サーバー再起動後もボットが自動復旧する
・会話履歴をメモリ内に保持してマルチターン対応にし、前後の文脈を考慮した応答が得られる

Use this token to access the HTTP API:
7123456789:AAHxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx-example

Keep your token secure and store it safely, it can be used by anyone to control your bot.

# バージョン確認
$ python3 --version
Python 3.12.3

# Ollamaの動作確認
$ ollama list
NAME                          ID              SIZE    MODIFIED
llama3.3:70b-instruct-q4_0   xxxxxxxxxxxx    42 GB   2 days ago

$ sudo mkdir -p /opt/ollama-telegram
$ sudo chown $USER:$USER /opt/ollama-telegram
$ python3 -m venv /opt/ollama-telegram/venv
$ source /opt/ollama-telegram/venv/bin/activate
$ pip install python-telegram-bot==20.8 httpx

import os
import httpx
from telegram import Update
from telegram.ext import ApplicationBuilder, MessageHandler, filters, ContextTypes

TELEGRAM_TOKEN = os.environ["TELEGRAM_TOKEN"]
OLLAMA_URL = os.environ.get("OLLAMA_URL", "http://localhost:11434")
MODEL_NAME = os.environ.get("OLLAMA_MODEL", "llama3.3:70b-instruct-q4_0")
ALLOWED_USER_IDS = set(
    int(uid) for uid in os.environ.get("ALLOWED_USER_IDS", "").split(",") if uid
)

async def handle_message(update: Update, context: ContextTypes.DEFAULT_TYPE) -> None:
    user_id = update.effective_user.id
    if ALLOWED_USER_IDS and user_id not in ALLOWED_USER_IDS:
        await update.message.reply_text("アクセスが許可されていません。")
        return

    await update.message.reply_text("考え中...")

    payload = {
        "model": MODEL_NAME,
        "prompt": update.message.text,
        "stream": False,
    }
    async with httpx.AsyncClient(timeout=120.0) as client:
        resp = await client.post(f"{OLLAMA_URL}/api/generate", json=payload)
        resp.raise_for_status()
        answer = resp.json()["response"]

    await update.message.reply_text(answer)

app = ApplicationBuilder().token(TELEGRAM_TOKEN).build()
app.add_handler(MessageHandler(filters.TEXT & ~filters.COMMAND, handle_message))
app.run_polling()

# /opt/ollama-telegram/.env（パーミッション600に設定すること）
TELEGRAM_TOKEN=7123456789:AAHxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx-example
OLLAMA_URL=http://localhost:11434
OLLAMA_MODEL=llama3.3:70b-instruct-q4_0
ALLOWED_USER_IDS=987654321,111222333

# .envのパーミッションをオーナー読み書きのみに制限する
$ chmod 600 /opt/ollama-telegram/.env

$ source /opt/ollama-telegram/venv/bin/activate
$ export $(grep -v '^#' /opt/ollama-telegram/.env | xargs)
$ python3 /opt/ollama-telegram/ollama_telegram_bot.py

async def handle_message(update: Update, context: ContextTypes.DEFAULT_TYPE) -> None:
    user_id = update.effective_user.id
    if ALLOWED_USER_IDS and user_id not in ALLOWED_USER_IDS:
        await update.message.reply_text("アクセスが許可されていません。")
        return

    history = context.user_data.setdefault("history", [])
    history.append({"role": "user", "content": update.message.text})

    # 直近20メッセージ分（10往復）だけ保持してメモリを節約する
    if len(history) > 20:
        history = history[-20:]
        context.user_data["history"] = history

    await update.message.reply_text("考え中...")

    payload = {"model": MODEL_NAME, "messages": history, "stream": False}
    async with httpx.AsyncClient(timeout=120.0) as client:
        resp = await client.post(f"{OLLAMA_URL}/api/chat", json=payload)
        resp.raise_for_status()
        answer = resp.json()["message"]["content"]

    history.append({"role": "assistant", "content": answer})
    await update.message.reply_text(answer)

from telegram.ext import CommandHandler

async def reset_command(update: Update, context: ContextTypes.DEFAULT_TYPE) -> None:
    context.user_data.clear()
    await update.message.reply_text("会話履歴をリセットしました。")

# run_polling()の前に追加する
app.add_handler(CommandHandler("reset", reset_command))

# /etc/systemd/system/ollama-telegram.service
[Unit]
Description=Ollama Telegram Bot
After=network.target ollama.service
Requires=ollama.service

[Service]
Type=simple
User=ubuntu
WorkingDirectory=/opt/ollama-telegram
EnvironmentFile=/opt/ollama-telegram/.env
ExecStart=/opt/ollama-telegram/venv/bin/python3 ollama_telegram_bot.py
Restart=on-failure
RestartSec=10

[Install]
WantedBy=multi-user.target

$ sudo systemctl daemon-reload
$ sudo systemctl enable ollama-telegram.service
$ sudo systemctl start ollama-telegram.service

# 状態確認
$ sudo systemctl status ollama-telegram.service
* ollama-telegram.service - Ollama Telegram Bot
     Loaded: loaded (/etc/systemd/system/ollama-telegram.service; enabled)
     Active: active (running) since Fri 2026-08-15 09:00:00 JST; 5s ago

# .envのALLOWED_USER_IDSに追記した後、サービスをリスタートする
$ sudo systemctl restart ollama-telegram.service

async def handle_message(update: Update, context: ContextTypes.DEFAULT_TYPE) -> None:
    user_id = update.effective_user.id
    if ALLOWED_USER_IDS and user_id not in ALLOWED_USER_IDS:
        await update.message.reply_text("アクセスが許可されていません。")
        return

    if context.user_data.get("processing"):
        await update.message.reply_text("前のリクエストを処理中です。少し待ってください。")
        return

    context.user_data["processing"] = True
    try:
        # ... LLM呼び出し処理（Step 4と同じ） ...
        pass
    finally:
        context.user_data["processing"] = False

SYSTEM_PROMPT = os.environ.get(
    "SYSTEM_PROMPT",
    "あなたはLinuxサーバー管理の専門アシスタントです。技術的な質問に日本語で回答してください。"
)

# handle_message内の履歴初期化部分を以下に変更する
history = context.user_data.setdefault(
    "history",
    [{"role": "system", "content": SYSTEM_PROMPT}]
)

# Telegram APIへの疎通確認
$ curl -s "https://api.telegram.org/bot${TELEGRAM_TOKEN}/getMe" | python3 -m json.tool

ローカルLLMとTelegramBot連携を実機GPUで2日間体験する

TelegramボットやRAG構築、systemd運用など、ローカルLLMの実践的な活用を手を動かしながら習得したい方向けに、「ローカルAIマスターセミナー」を開催しています。
少人数（最大8名）ZOOMハンズオン形式で実施しています。