OllamaのAPIをGolangから使う方法｜net/httpでチャット・ストリーミング・埋め込みをLinuxで実装する手順

この記事のポイント

・GoのネイティブHTTPクライアントだけでOllamaのチャットAPIを呼び出せる（外部ライブラリ不要）
・ストリーミング応答はbufio.Scannerで1行ずつ読み取ってJSONをデコードするのが定石
・Embedding取得はPOST /api/embedで実現し、Goで書いたRAGシステムの土台になる
・エラーハンドリングとタイムアウト設定を組み込んで本番向けの品質に仕上げる

# Goバイナリをダウンロードする（バージョンは実際の最新版に変更する）
$ wget https://go.dev/dl/go1.22.4.linux-amd64.tar.gz

# /usr/local に展開する（既存のGoディレクトリを削除してから展開する）
$ sudo rm -rf /usr/local/go
$ sudo tar -C /usr/local -xzf go1.22.4.linux-amd64.tar.gz

# ~/.profileにPATHを追加する
$ echo 'export PATH=$PATH:/usr/local/go/bin' >> ~/.profile

# 現在のシェルに反映する
$ source ~/.profile

# バージョンを確認する
$ go version
go version go1.22.4 linux/amd64

# プロジェクトディレクトリを作成する
$ mkdir -p ~/ollama-go-client
$ cd ~/ollama-go-client

# Goモジュールを初期化する
$ go mod init ollama-go-client
go: creating new go.mod: module ollama-go-client

// chat_simple.go
package main

import (
	"bytes"
	"encoding/json"
	"fmt"
	"log"
	"net/http"
)

type ChatRequest struct {
	Model    string    `json:"model"`
	Messages []Message `json:"messages"`
	Stream   bool      `json:"stream"`
}

type Message struct {
	Role    string `json:"role"`
	Content string `json:"content"`
}

type ChatResponse struct {
	Message Message `json:"message"`
}

func main() {
	req := ChatRequest{
		Model: "llama3.3",
		Messages: []Message{
			{Role: "user", Content: "LinuxのiノードをPATH: 30字以内で説明してください"},
		},
		Stream: false,
	}

	body, err := json.Marshal(req)
	if err != nil {
		log.Fatal("JSONエンコードに失敗しました: ", err)
	}

	resp, err := http.Post(
		"http://localhost:11434/api/chat",
		"application/json",
		bytes.NewBuffer(body),
	)
	if err != nil {
		log.Fatal("APIリクエストに失敗しました: ", err)
	}
	defer resp.Body.Close()

	var chatResp ChatResponse
	if err := json.NewDecoder(resp.Body).Decode(&chatResp); err != nil {
		log.Fatal("レスポンスのデコードに失敗しました: ", err)
	}

	fmt.Println(chatResp.Message.Content)
}

# コンパイルして実行する
$ go run chat_simple.go
iノードはファイルのメタデータ（所有者・パーミッション・タイムスタンプ・ブロック位置）を管理するデータ構造です。

# ビルドして実行ファイルを生成する場合
$ go build -o chat_simple chat_simple.go
$ ./chat_simple
iノードはファイルのメタデータ（所有者・パーミッション・タイムスタンプ・ブロック位置）を管理するデータ構造です。

// chat_stream.go
package main

import (
	"bufio"
	"bytes"
	"encoding/json"
	"fmt"
	"log"
	"net/http"
	"os"
)

type ChatRequest struct {
	Model    string    `json:"model"`
	Messages []Message `json:"messages"`
	Stream   bool      `json:"stream"`
}

type Message struct {
	Role    string `json:"role"`
	Content string `json:"content"`
}

type StreamResponse struct {
	Message Message `json:"message"`
	Done    bool    `json:"done"`
}

func main() {
	req := ChatRequest{
		Model: "llama3.3",
		Messages: []Message{
			{Role: "user", Content: "Linuxのプロセス管理で重要なコマンドを5つ教えてください"},
		},
		Stream: true,
	}

	body, err := json.Marshal(req)
	if err != nil {
		log.Fatal("JSONエンコードに失敗しました: ", err)
	}

	resp, err := http.Post(
		"http://localhost:11434/api/chat",
		"application/json",
		bytes.NewBuffer(body),
	)
	if err != nil {
		log.Fatal("APIリクエストに失敗しました: ", err)
	}
	defer resp.Body.Close()

	scanner := bufio.NewScanner(resp.Body)
	for scanner.Scan() {
		line := scanner.Bytes()
		var streamResp StreamResponse
		if err := json.Unmarshal(line, &streamResp); err != nil {
			continue
		}
		fmt.Fprint(os.Stdout, streamResp.Message.Content)
		if streamResp.Done {
			fmt.Println()
			break
		}
	}

	if err := scanner.Err(); err != nil {
		log.Fatal("ストリームの読み取りに失敗しました: ", err)
	}
}

$ go run chat_stream.go
1. ps：動作中のプロセスを一覧表示する
2. top：CPU・メモリ使用率をリアルタイムで確認する
3. kill：プロセスにシグナルを送信して停止する
...（トークンが順次表示される）

// embed.go
package main

import (
	"bytes"
	"encoding/json"
	"fmt"
	"log"
	"net/http"
)

type EmbedRequest struct {
	Model string `json:"model"`
	Input string `json:"input"`
}

type EmbedResponse struct {
	Embeddings [][]float64 `json:"embeddings"`
}

func main() {
	req := EmbedRequest{
		Model: "nomic-embed-text",
		Input: "Linuxのiノードとは何か",
	}

	body, err := json.Marshal(req)
	if err != nil {
		log.Fatal("JSONエンコードに失敗しました: ", err)
	}

	resp, err := http.Post(
		"http://localhost:11434/api/embed",
		"application/json",
		bytes.NewBuffer(body),
	)
	if err != nil {
		log.Fatal("APIリクエストに失敗しました: ", err)
	}
	defer resp.Body.Close()

	var embedResp EmbedResponse
	if err := json.NewDecoder(resp.Body).Decode(&embedResp); err != nil {
		log.Fatal("レスポンスのデコードに失敗しました: ", err)
	}

	if len(embedResp.Embeddings) > 0 {
		vec := embedResp.Embeddings[0]
		fmt.Printf("次元数: %d\n", len(vec))
		fmt.Printf("先頭3要素: %.6f, %.6f, %.6f\n", vec[0], vec[1], vec[2])
	}
}

# nomic-embed-textモデルを取得する
$ ollama pull nomic-embed-text
pulling manifest...
pulling model... 100%

# embed.goを実行する
$ go run embed.go
次元数: 768
先頭3要素: 0.051234, -0.023456, 0.098765

import "time"

// タイムアウト付きのHTTPクライアントを作る
client := &http.Client{
    Timeout: 120 * time.Second,
}

// PostではなくNewRequestとclient.Doを組み合わせる
httpReq, err := http.NewRequest("POST", "http://localhost:11434/api/chat", bytes.NewBuffer(body))
if err != nil {
    log.Fatal("リクエストの作成に失敗しました: ", err)
}
httpReq.Header.Set("Content-Type", "application/json")

resp, err := client.Do(httpReq)
if err != nil {
    log.Fatal("APIリクエストに失敗しました: ", err)
}

import "io"

// ステータスコードが200以外ならエラーの詳細を表示して終了する
if resp.StatusCode != http.StatusOK {
    bodyBytes, _ := io.ReadAll(resp.Body)
    log.Fatalf("APIエラー (ステータスコード: %d): %s",
        resp.StatusCode, string(bodyBytes))
}

# Ollamaのプロセス状態を確認する
$ systemctl status ollama

# curlでAPIが応答するか確認する
$ curl http://localhost:11434/api/tags
{"models":[...]}

# 利用可能なモデルの一覧を確認する
$ ollama list
NAME                       ID              SIZE      MODIFIED
llama3.3:latest            abc123def456    43 GB     3 days ago
nomic-embed-text:latest    xyz789aaa111    274 MB    1 week ago

# 一覧にないモデルはpullする
$ ollama pull llama3.3

scanner := bufio.NewScanner(resp.Body)
// 1MBまでのバッファに拡張する
scanner.Buffer(make([]byte, 1024*1024), 1024*1024)

OllamaのAPI活用をハンズオンで体験する

OllamaのREST APIをGoや各種言語から呼び出す構成を、実際のLinux環境で試してみたい方も多いはずです。実機GPU環境で手を動かしながら習得したい方向けに、「ローカルAIマスターセミナー」を開催しています。
少人数（最大8名）ZOOMハンズオン形式で実施しています。