Mac OSでOllama server (3) Homebrew版ollama導入決定版

ollamauser を管理者で作成。Homebrewがインストールできない。

sshでollamauserでログイン

 Homebrewのインストール　https://brew.sh/ja/　管理者というかsudoが使えないとインストールできない

/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"

再起動！

ollamaのHomebrew版をインストール

 brew install ollama

 環境変数が読み込まれないのでgitから以下をダウンロード

git clone https://github.com/ntrlmt/ollama-brew-service-setup.git

ollama-brew-service-setupフォルダーに移動。不可視属性のファイルがあるので

ls -a

 -rw-r--r--   1 ollamauser  staff   202 May 30 15:05 .env.example
drwxr-xr-x  12 ollamauser  staff   384 May 30 15:05 .git
-rw-r--r--   1 ollamauser  staff    33 May 30 15:05 .gitignore
-rw-r--r--   1 ollamauser  staff  1063 May 30 15:05 LICENSE
-rw-r--r--   1 ollamauser  staff  2588 May 30 15:05 README.md
drwxr-xr-x   3 ollamauser  staff    96 May 30 15:05 resources
drwxr-xr-x   6 ollamauser  staff   192 May 30 15:05 scripts

という状況なので、 

cp .env.example .env 

.env　を 編集。

OLLAMA_HOST=0.0.0.0:11434
OLLAMA_ORIGINS="http://192.168.0.0/16"
OLLAMA_CONTEXT_LENGTH=4096
OLLAMA_MAX_LOADED_MODELS=1
OLLAMA_NUM_PARALLEL=1
OLLAMA_SCHED_SPREAD=0
OLLAMA_FLASH_ATTENTION=1
OLLAMA_KV_CACHE_TYPE=q8_0

 HomebrewサービスとしてOllamaを起動

 brew services start ollama

 update-ollama-brew-plist-env-vars.shを実行

 ./scripts/update-ollama-brew-plist-env-vars.sh

 start-ollama-brew-service.sh　実行で使える。

ただし、デスクトップでログインしないと自動起動されないので、自動ログインを行う

「システム設定」→下の方「ユーザーとグループ」で自動ログインするユーザを設定。

ただしログオフしちゃうと使えなくなる。