戯言雑記

llama.cppでサーバーを構築していたが、一点、問題が発生した。サーバー実行中に動的にモデルを変更できないという問題だ。バッチ処理で複数モデルで変えたいのでこれは今回の用途には致命的。ということで一周まわってollamaに戻ってきた。今回は公式サイトでの配付版です。 取りあえず。MacOS版のインストールコマンドでインストール、適当なモデルをダウンロード curl -fsSL https://ollama.com/install.sh | sh ollama run  gemma4:e4b 「システム設定」→「一般」→「ログイン項目。。。」で自動起動を停止。  ~/Library/LaunchAgents/com.ollama.server.plist　を作る。 中身は <?xml version="1.0" encoding="UTF-8"?> <!DOCTYPE plist PUBLIC "-//Apple//DTD PLIST 1.0//EN" "http://apple.com"> <plist version="1.0"> <dict>     <key>Label</key>     <string>com.ollama.server</string>     <key>ProgramArguments</key>     <array>         <string>/Applications/Ollama.app/Contents/Resources/ollama</string>         <string>serve</string>     </array>     <key>EnvironmentVariables</key>     <dict>   ...

まずはwgetをインストールして、wget でバイナリーをダウンロードする brew install wget cd Download wget https://github.com/ggml-org/llama.cpp/releases/download/b9537/llama- b9537 -bin-macos-arm64.tar.gz tar -xvf llama- b9357 -bin-macos-arm64.tar.gz cd  llama- b9357 モデルを保存するフォルダーを作って  mkdir model cd model モデルをダウンロードgema4-e4bをダウンロード  huggingfaceから量子化4bitのGGUFのものをダウンロード、リンクをコピーすると、最後に"?download=true"がついているのでこれを消してwgetでダウンロード  wget https://huggingface.co/google/gemma-4-E4B-it-qat-q4_0-gguf/resolve/main/gemma-4-E4B_q4_0-it.gguf ?download=true  llama-b9357のままだとあれなので、llama_cppにディレクトリを変更    ./llama_cpp/llama-server --host 0.0.0.0 --port 8080 --models-dir llama_cpp/models -ngl 99 で起動できる。がサービスにするのがまた手こずっている。 以下のページ参考にちょっと次を進めよう  https://ai.hack-le.com/mac-launchd/ 　Macで自動化する：launchdを使ってスクリプトを起動時に実行する方法 https://zenn.dev/supertaro/articles/ea48ff146f42a9 　Mac Mini M4 (16GB) をサーバー運用で初期化 https://note.com/satoshi_hayasaki/n/neae2e74a2752 　Mac mini M4をローカルAIエージェントサーバーに仕立てた全記録【Day 1】...

 sudo apt install network-manager-l2tp network-manager-l2tp-gnome でインストール再起動 で設定できる。 名前：適当な名前　l2tp Gateway：L2TPが動いているサーバのIPアドレスまたは名前 Type　：　パスワード を設定して、IPsecSetting　のボタンを押す Enable IPsec tunnel L"TP host をOn Type を　Preシェアードキーにしてプレシェアードキーを入力 pppセッティングは特に変更必要ない 参考はと言うか丸パクリですが https://yasuo-ssi.hatenablog.com/entry/2025/11/18/203000 です。

 Gemma 4 12B を使おうと思ったら、ollamaを最新版にせよというエラーがでるので、最新版にアップデートしようとしたら全然ダメだったはなし。 Error: 500 Internal Server Error: error starting llama-server: llama-server binary not found (checked: /opt/homebrew/Cellar/ollama/0.30.5/libexec/lib/ollama/llama-server, /opt/homebrew/Cellar/ollama/0.30.5/libexec/llama-server, /opt/homebrew/Cellar/ollama/0.30.5/lib/ollama/llama-server, /opt/homebrew/Cellar/ollama/0.30.5/libexec/build/lib/ollama/llama-server, /opt/homebrew/Cellar/ollama/0.30.5/libexec/dist/darwin-arm64/lib/ollama/llama-server, /opt/homebrew/Cellar/ollama/0.30.5/libexec/dist/darwin_arm64/lib/ollama/llama-server, /opt/homebrew/Cellar/ollama/0.30.5/libexec/dist/darwin/llama-server, /opt/homebrew/var/build/lib/ollama/llama-server, /opt/homebrew/var/dist/darwin-arm64/lib/ollama/llama-server, /opt/homebrew/var/dist/darwin_arm64/lib/ollama/llama-server, /opt/homebrew/var/dist/darwin/llama-server). Run 'cmake -S llama/server --preset cpu && cmake --build --preset cpu' first  そのままアップデー...

ollamauser を管理者で作成。Homebrewがインストールできない。 sshでollamauserでログイン  Homebrewのインストール　 https://brew.sh/ja/ 　管理者というかsudoが使えないとインストールできない /bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)" 再起動！ ollamaのHomebrew版をインストール  brew install ollama  環境変数が読み込まれないのでgitから以下をダウンロード git clone https://github.com/ntrlmt/ollama-brew-service-setup.git ollama-brew-service-setupフォルダーに移動。不可視属性のファイルがあるので ls -a  -rw-r--r--   1 ollamauser  staff   202 May 30 15:05 .env.example drwxr-xr-x  12 ollamauser  staff   384 May 30 15:05 .git -rw-r--r--   1 ollamauser  staff    33 May 30 15:05 .gitignore -rw-r--r--   1 ollamauser  staff  1063 May 30 15:05 LICENSE -rw-r--r--   1 ollamauser  staff  2588 May 30 15:05 README.md drwxr-xr-x   3 ollamauser  staff    96 May 30 15:05 resources drwxr-xr-x   6 ollamauser  staff...

 Homebrewのインストール　 https://brew.sh/ja/ /bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"  以下の内容は試行過程です。結論は以下へ Mac OSでOllama server (3)　Homebrew版ollama導入決定版 －－－－－－－－－－－－－－－－－－－－－－－－－－－ Homebrewでollamaをインストール　 https://qiita.com/ntrlmt/items/56fc4e6049170edf93e0 　を参考 brew install ollama  HomebrewサービスとしてOllamaを起動  brew services start ollama とめるときは  brew services stop ollama  状態確認は brew services list  だけど、環境変数を　/opt/homebrew/opt/ollama/homebrew.mxcl.ollama.plist　に書き込まないとダメらしい、が結構面倒くさい。 先ほどの https://qiita.com/ntrlmt/items/56fc4e6049170edf93e0 にやり方がある。 update-ollama-brew-plist-env-vars.sh　の実行 /Users/[ユーザ名]/Library/LaunchAgents/homebrew.mxcl.ollama.plist が作られる rootで起動できるように設定ファイルをコピー、アクセス権の設定 sudo cp /Users/[ユーザ名]/Library/LaunchAgents/homebrew.mxcl.ollama.plist /Library/LaunchDaemons/   sudo chown root:wheel /Library/LaunchDaemons/homebrew.mxcl.ollama.plist とここまで来てsudo   brew services start ...

 GLPI Agent Linux MacOS版はdmgをインストール。 /Applications/GLPI-Agent/etc/conf.d　フォルダーに　local.cfg　ファイルを作成 sudo nano local.cfg server = http://192.168.0.x:8082  など環境に合わせて設定 /Applications/GLPI-Agent.app/bin/　に移動して sudo ./glpi-agent --force で強制実行 

 M2 Mac miniをAIのサーバーにしてローカルネットで使い倒そうと画策。 その前にサーバの稼働状況を確認したくmuni-nodeかSNMPを使えないか調査、 munin-nodeは標準ではなく 1．MacPortsでインストールする 2．Homebrewでサードパティーのソースからインストール 3．直接インストールする ですが、今回は2.の方法をでやってみようと思った。geminiはMacPortsでのインストールを進めてくるが、デファクトスタンダードのHomebrewの方が多少の手間であれば魅力的に感じたからけど、Geminiに聞くと1．MacPorts、ChatGPTに聞くと2．Homebrewを薦めてくる。 で、結果、取りあえず標準ではいっているSNMPで簡易的にみてみることにした。 ここを参考に　 https://support.hudu.com/hc/en-us/articles/36648508837655-Configuring-SNMP-on-macOS /etc/snmp/snmpd.conf　を編集 $ sudo nano snmpd.conf  で com2sec local     localhost       COMMUNITY com2sec mynetwork NETWORK/24      COMMUNITY の後に  com2sec localnet    192.168.0.0/16       public を追加 rocommunity  public default .1.3.6.1.2.1.1.4 をコメント化し rocommunity  public default .1 以下のコマンドでサービスとして起動 sudo launchctl load -w /System/Library/LaunchDaemons/org.net-snmp.snmpd.plist  launchctl load：サービスとして起動せよ -w：永続的に 以下の設定ファイルを です。とめる場合は以下のコマンドで。 sud...

 HP Omnibook x14-feのSnapdragonのNPUの利用、いまいちすすまない。現時点で。Ollamaはダメだし。 Anythingllmはバックグラウンド選択すれば動くが、どうも私と相性が合わない。機能が豊富すぎるように感じる。 https://qiita.com/qks_nagata/items/442b377600e1db601109 を参考にFoundry Localをつかってみる。 winget install Microsoft.FoundryLocal でインストールされる、途中で許諾するかどうか問われる。 foundry model list でリストを探すそうだが 何かでかいのをダウンロードしている リストが出てくるので foundry model run phi-3.5-mini-instruct-qnn-npu を実行　phi3.5のNPU対応をダウンロード　2.78GBくらい 環境にもよるだろうけど32Mbpsくらい、おそいな、そしてエラーのあらし、「そのようなホストは不明です」ただ、何回かリトライすると落とせている。 インストール完了するとNPUがっつり使って軽快に会話できる ただ、「こんにちは」って入力すると、返答が無限ループする 自己紹介してはちゃんと帰ってきた。日本語でちゃんと帰ってくる。 「空はなぜ青いの」は無限ループ 「話は短めに、空はなぜ青いの」は完結した。 インストール先は C:\Users\<ユーザー名>\AppData\Local\Microsoft\WindowsApps\foundry.exe モデルは C:\Users\<ユーザー名>\.foundry\cache\phi-3.5・・・・・・みたいにモデルが保存される。

 Gigabyte B550 AORUS PROの新BIOS　F19a　が出ていた　セキュリティー関係らしい、更新しておこう

 intel　Core Ultra 9 285Hでollamaをインストール. ドライバー類は最新 ollamaも最新で　gemma4 環境変数 OLLAMA_INTEL_GPU=1 OLLAMA_VULKAN=1 ONEAPI_DEVICE_SELECTOR=level_zero:NPU →英語で回答？ OLLAMA_INTEL_GPU=1 OLLAMA_VULKAN=0 ONEAPI_DEVICE_SELECTOR=level_zero:NPU →CPU　ほぼPコアフルロード　GPU　ちょっとだけ　NPU　0 OLLAMA_INTEL_GPU=0 OLLAMA_VULKAN=0 ONEAPI_DEVICE_SELECTOR=level_zero:NPU →CPU　ほぼPコアフルロード　GPU　ちょっとだけ　NPU　0  OLLAMA_INTEL_GPU=0 OLLAMA_VULKAN=0 ONEAPI_DEVICE_SELECTOR=level_zero:GPU →CPU　ほぼPコアフルロード　GPU　ちょっとだけ　NPU　0  OLLAMA_INTEL_GPU=1 OLLAMA_VULKAN=0 ONEAPI_DEVICE_SELECTOR=level_zero:GPU →CPU　ほぼPコアフルロード　GPU　ちょっとだけ　NPU　0  OLLAMA_INTEL_GPU=1 OLLAMA_VULKAN=1 ONEAPI_DEVICE_SELECTOR=level_zero:GPU OLLAMA_LLM_LIBRARY="vulkan" →CPU　ほぼPコアフルロード　GPU　ちょっとだけ　NPU　0   OLLAMA_INTEL_GPU=1 OLLAMA_VULKAN=1 ONEAPI_DEVICE_SELECTOR=level_zero:1 OLLAMA_LLM_LIBRARY="vulkan" →CPU　ちょっと　GPU　動いてそう　NPU　0 　中国語   OLLAMA_INTEL_GPU=1 OLLAMA_VULKAN=1 ONEAPI_DEVICE_SELECTOR=level_zero:0 OLLAMA_LLM_LIBRARY="vulkan" →CPU　ちょっと　GPU...

 2026年5月10日 1.29.0が公開されていた。メジャーリリースだそうだ。メジャーリリースなのでまだwebインターフェイスからはアップデートできないようだ

 HP Omnibook x14-feかってずっと初期のHPからのドライバーで使っていたけど。それでいいのかと思いだし、ドライバー捜しの旅へ。 Qualcomのサイトに最新ドライバーが Qualcomm® Adreno™ Windows Graphics Drivers for Snapdragon® X Platform   本日時点でRelease Date 2026/3/18　のバージョンが260228031.0.148.0があった。 ついでにNPUのドライバ Qualcomm® Hexagon™ NPU Driver 本日時点でRelease Date 2026/3/25　のバージョン1.0.0.14もインストール ダウンロードして解凍するといずれもexeとpdfが同梱。exeを実行するとインストールされた。 特段変化はないか。

Ollama を C ドライブから D ドライブへ移動する方法（Windows版） ここの情報です。 Ollamaをインストールするとユーザーディレクトリにインストールされるので、ドメイン管理の共用PCだと、各ユーザーごとに結構な量の本体と、モデルが保存されるので、これを共用化できないかと実行 コマンドプロンプトで OllamaSetup.exe /DIR="C:\Ollama" でインストールできる 。スタートメニューのアイコンは、インストールしたユーザーのスタートメニューに登録されるので、 ちゃんと全ユーザー向けのスタートメニュー C:\Users\[ユーザー]\AppData\Roaming\Microsoft\Windows\Start Menu\Programs 以下に変更 C:\ProgramData\Microsoft\Windows\Start Menu\Programs モデルをダウンロードするディレクトリも変更 システムの環境変数を OLLAMA_MODELS　を　C:\OllamaModels　に設定する システム環境変数を設定する場合は、「設定」アプリの「システム」→「バージョン情報」→「システムの詳細設定」良い。 C:\OllamaModels　を作っておく 一旦再起動かな。 intelGPU,NPUを使うために setx OLLAMA_VULKAN 1 setx OLLAMA_INTEL_GPU 1 を設定するとGPUを使い始めるが急にばかになる。 setx OLLAMA_VULKAN 0 setx OLLAMA_INTEL_GPU 0 でCPUとちょっとのGPUが安定した回答。ただ、CPUを使うといっても12コアの6コアしか使っていない。Core Ultra 9 285Hを使っているが　P / E / LP Eコア　6 / 8 / 2　なので、Pコアしか使っていない。 OpenVINO™ツールキットのインストールをしていなかったので、追加したけどかわらんかった。OpenVINOはpythonもいれないといけないのか、面倒くさいな。 ただ、Geforce3050　12GBと速度あんまりかわらないような・・・・・。