OllamaとPostgreSQL/pgvectorでローカルベクターDBを構築する方法｜既存DBインフラにEmbeddingを統合してRAGをエンタープライズ化する手順

この記事のポイント

・CREATE EXTENSION vector; の1行でPostgreSQLにpgvectorを組み込める
・nomic-embed-textの768次元EmbeddingをHNSWインデックスで高速類似検索できる
・psycopg3 + pgvectorライブラリでPythonからベクターをそのまま格納・取得できる
・Ollama推論もEmbeddingもPostgreSQLも社内サーバーで完結するRAGが完成する

# PostgreSQL公式リポジトリを追加
sudo apt install -y gnupg curl
curl -fsSL https://www.postgresql.org/media/keys/ACCC4CF8.asc \
  | sudo gpg --dearmor -o /etc/apt/trusted.gpg.d/postgresql.gpg
echo "deb https://apt.postgresql.org/pub/repos/apt $(lsb_release -cs)-pgdg main" \
  | sudo tee /etc/apt/sources.list.d/pgdg.list
sudo apt update
sudo apt install -y postgresql-16 postgresql-server-dev-16

# サービス起動確認
sudo systemctl status postgresql
# 出力例（抜粋）:
# Active: active (running) since ...

sudo apt install -y postgresql-16-pgvector

# 拡張が利用可能か確認
sudo -u postgres psql -c "SELECT name, default_version FROM pg_available_extensions WHERE name = 'vector';"
# 出力例:
#  name   | default_version
# --------+-----------------
#  vector | 0.8.0

# ソースビルドが必要な場合（Ubuntu 22.04など）
sudo apt install -y git build-essential
git clone https://github.com/pgvector/pgvector.git
cd pgvector
make
sudo make install

sudo -u postgres psql << 'EOF'
CREATE DATABASE ragdb;
CREATE USER raguser WITH PASSWORD 'StrongPass123!';
GRANT ALL PRIVILEGES ON DATABASE ragdb TO raguser;
\c ragdb
CREATE EXTENSION vector;
GRANT ALL ON SCHEMA public TO raguser;
EOF

psql -U raguser -d ragdb << 'EOF'
CREATE TABLE documents (
    id          BIGSERIAL PRIMARY KEY,
    source      TEXT NOT NULL,        -- ファイル名やURL
    chunk_index INTEGER NOT NULL,     -- チャンク連番（0始まり）
    content     TEXT NOT NULL,        -- 本文テキスト（検索ヒット時にLLMへ渡す）
    embedding   vector(768),          -- nomic-embed-text は768次元
    created_at  TIMESTAMP DEFAULT NOW()
);

-- HNSWインデックス（コサイン距離）を作成
CREATE INDEX ON documents
    USING hnsw (embedding vector_cosine_ops)
    WITH (m = 16, ef_construction = 64);
EOF

ollama pull nomic-embed-text

# curlでEmbeddingを取得して次元数を確認
curl -s http://localhost:11434/api/embeddings \
  -d '{"model":"nomic-embed-text","prompt":"PostgreSQLでベクター検索をする方法"}' \
  | python3 -c "import sys,json; d=json.load(sys.stdin); print(f'次元数: {len(d[\"embedding\"])}')"
# 出力例:
# 次元数: 768

pip install "psycopg[binary]" pgvector requests

#!/usr/bin/env python3
import psycopg
from pgvector.psycopg import register_vector
import requests
import os
import sys

OLLAMA_URL  = "http://localhost:11434/api/embeddings"
EMBED_MODEL = "nomic-embed-text"
DSN = "postgresql://raguser:StrongPass123!@localhost/ragdb"

def get_embedding(text: str) -> list:
    resp = requests.post(OLLAMA_URL, json={"model": EMBED_MODEL, "prompt": text})
    resp.raise_for_status()
    return resp.json()["embedding"]

def chunk_text(text: str, size: int = 500, overlap: int = 50) -> list:
    chunks, start = [], 0
    while start < len(text):
        end = min(start + size, len(text))
        chunks.append(text[start:end])
        start += size - overlap
    return chunks

def ingest_file(filepath: str):
    with open(filepath, encoding="utf-8") as f:
        content = f.read()
    chunks = chunk_text(content)
    with psycopg.connect(DSN) as conn:
        register_vector(conn)
        with conn.cursor() as cur:
            for i, chunk in enumerate(chunks):
                emb = get_embedding(chunk)
                cur.execute(
                    "INSERT INTO documents (source, chunk_index, content, embedding)"
                    " VALUES (%s, %s, %s, %s)",
                    (os.path.basename(filepath), i, chunk, emb)
                )
        conn.commit()
    print(f"{filepath}: {len(chunks)}チャンクをDBに格納完了")

if __name__ == "__main__":
    for path in sys.argv[1:]:
        ingest_file(path)

# テキストファイルを格納
python3 ingest.py /var/docs/manual.txt /var/docs/faq.txt

# 格納件数を確認
psql -U raguser -d ragdb -c "SELECT source, count(*) FROM documents GROUP BY source;"
# 出力例:
#    source    | count
# -------------+-------
#  manual.txt  |   142
#  faq.txt     |    58

-- コサイン距離での類似検索（Pythonから埋め込みベクトルを%sで渡す）
SELECT source, chunk_index, content,
       1 - (embedding <=> %s::vector) AS cosine_similarity
FROM documents
ORDER BY embedding <=> %s::vector
LIMIT 5;

#!/usr/bin/env python3
import psycopg
from pgvector.psycopg import register_vector
import requests

OLLAMA_EMBED = "http://localhost:11434/api/embeddings"
OLLAMA_CHAT  = "http://localhost:11434/api/generate"
EMBED_MODEL  = "nomic-embed-text"
LLM_MODEL    = "llama3.3:70b-instruct-q4_0"
DSN          = "postgresql://raguser:StrongPass123!@localhost/ragdb"

def retrieve(question: str, top_k: int = 5) -> list:
    emb = requests.post(OLLAMA_EMBED,
        json={"model": EMBED_MODEL, "prompt": question}).json()["embedding"]
    with psycopg.connect(DSN) as conn:
        register_vector(conn)
        with conn.cursor() as cur:
            cur.execute(
                "SELECT content FROM documents ORDER BY embedding <=> %s::vector LIMIT %s",
                (emb, top_k)
            )
            return [row[0] for row in cur.fetchall()]

def answer(question: str) -> str:
    contexts = retrieve(question)
    prompt = "以下の資料を参考に質問に答えてください。\n\n"
    prompt += "\n---\n".join(contexts)
    prompt += f"\n\n質問: {question}\n回答:"
    resp = requests.post(OLLAMA_CHAT,
        json={"model": LLM_MODEL, "prompt": prompt, "stream": False})
    return resp.json()["response"]

if __name__ == "__main__":
    q = "pgvectorのHNSWインデックスの設定方法を教えてください"
    print(answer(q))

from psycopg.pool import ConnectionPool
from pgvector.psycopg import register_vector

pool = ConnectionPool(
    DSN,
    configure=lambda conn: register_vector(conn)
)

pgvector＋OllamaのRAGを2日間ハンズオンで実機構築する

PostgreSQLへのpgvector導入からOllamaのEmbedding取得、RAGパイプラインの実装まで、記事を読んだだけでは迷いやすい箇所を実機で一気に体験したい方向けに、「ローカルAIマスターセミナー」を開催しています。
少人数（最大8名）ZOOMハンズオン形式で実施しています。