ollamaをビルドする

ubuntuでollamaをビルドして、動作するバイナリを取得する方法を学んでいきます。

github.com

ollamaのレポジトリにあるドキュメントに従って実施します。

必要なツール

• cmake version 3.24 or higher
• go version 1.22 or higher
• gcc version 11.4.0 or higher

インストールするだけであればaptを使えば良いですが、条件を満たすバージョンでない場合があります（これを書いているときはcmakeが3.22.1、goが1.18.1だった）。 そこで、aptでパッケージをインストールするレポジトリを追加して、条件を満たすバージョンをインストールします。

cmakeの場合

【cmake】最新版CMakeをapt installする方法【Ubuntu】 #C++ - Qiita

こちらの記事を参考にaptレポジトリを追加して、3.29.6をインストールしました。

$ cmake --version
cmake version 3.29.6

CMake suite maintained and supported by Kitware (kitware.com/cmake).

golangの場合

Go Wiki: Ubuntu - The Go Programming Language

goのwikiを参考に同じくaptレポジトリを追加して、1.22.5をインストールしました。

$ sudo add-apt-repository ppa:longsleep/golang-backports
$ sudo apt update
$ sudo apt install golang-go
$ go version
go version go1.22.5 linux/amd64

Build & Run

ツールが準備できたので、実際にビルドします。

$ go generate ./...
$ go build .

llama3.1を実行して確認します。

$ ./ollama run llama3.1
>>> /show info
  Model                                          
    arch                llama                            
    parameters          8.0B                            
    quantization        Q4_0                             
    context length      131072                          
    embedding length    4096                            
                                                   
  Parameters                                     
    stop  "<|start_header_id|>"                        
    stop  "<|end_header_id|>"                          
    stop  "<|eot_id|>"                                 
                                                   
  License                                        
    LLAMA 3.1 COMMUNITY LICENSE AGREEMENT           
    Llama 3.1 Version Release Date: July 23, 2024     
                                                   
>>> /bye