投稿

ラベル(AI)が付いた投稿を表示しています

HP Omnibook x14-feを買った(8)LLM環境

 HP Omnibook x14-feのSnapdragonのNPUの利用、いまいちすすまない。現時点で。Ollamaはダメだし。 Anythingllmはバックグラウンド選択すれば動くが、どうも私と相性が合わない。機能が豊富すぎるように感じる。 https://qiita.com/qks_nagata/items/442b377600e1db601109 を参考にFoundry Localをつかってみる。 winget install Microsoft.FoundryLocal でインストールされる、途中で許諾するかどうか問われる。 foundry model list でリストを探すそうだが 何かでかいのをダウンロードしている リストが出てくるので foundry model run phi-3.5-mini-instruct-qnn-npu を実行 phi3.5のNPU対応をダウンロード 2.78GBくらい 環境にもよるだろうけど32Mbpsくらい、おそいな、そしてエラーのあらし、「そのようなホストは不明です」ただ、何回かリトライすると落とせている。 インストール完了するとNPUがっつり使って軽快に会話できる ただ、「こんにちは」って入力すると、返答が無限ループする 自己紹介してはちゃんと帰ってきた。日本語でちゃんと帰ってくる。 「空はなぜ青いの」は無限ループ 「話は短めに、空はなぜ青いの」は完結した。 インストール先は C:\Users\<ユーザー名>\AppData\Local\Microsoft\WindowsApps\foundry.exe モデルは C:\Users\<ユーザー名>\.foundry\cache\phi-3.5・・・・・・みたいにモデルが保存される。

intelCPUでollama

 intel Core Ultra 9 285Hでollamaをインストール. ドライバー類は最新 ollamaも最新で gemma4 環境変数 OLLAMA_INTEL_GPU=1 OLLAMA_VULKAN=1 ONEAPI_DEVICE_SELECTOR=level_zero:NPU →英語で回答? OLLAMA_INTEL_GPU=1 OLLAMA_VULKAN=0 ONEAPI_DEVICE_SELECTOR=level_zero:NPU →CPU ほぼPコアフルロード GPU ちょっとだけ NPU 0 OLLAMA_INTEL_GPU=0 OLLAMA_VULKAN=0 ONEAPI_DEVICE_SELECTOR=level_zero:NPU →CPU ほぼPコアフルロード GPU ちょっとだけ NPU 0  OLLAMA_INTEL_GPU=0 OLLAMA_VULKAN=0 ONEAPI_DEVICE_SELECTOR=level_zero:GPU →CPU ほぼPコアフルロード GPU ちょっとだけ NPU 0  OLLAMA_INTEL_GPU=1 OLLAMA_VULKAN=0 ONEAPI_DEVICE_SELECTOR=level_zero:GPU →CPU ほぼPコアフルロード GPU ちょっとだけ NPU 0  OLLAMA_INTEL_GPU=1 OLLAMA_VULKAN=1 ONEAPI_DEVICE_SELECTOR=level_zero:GPU OLLAMA_LLM_LIBRARY="vulkan" →CPU ほぼPコアフルロード GPU ちょっとだけ NPU 0   OLLAMA_INTEL_GPU=1 OLLAMA_VULKAN=1 ONEAPI_DEVICE_SELECTOR=level_zero:1 OLLAMA_LLM_LIBRARY="vulkan" →CPU ちょっと GPU 動いてそう NPU 0  中国語   OLLAMA_INTEL_GPU=1 OLLAMA_VULKAN=1 ONEAPI_DEVICE_SELECTOR=level_zero:0 OLLAMA_LLM_LIBRARY="vulkan" →CPU ちょっと GPU...

WindowsのOllamaを共通ディレクトリにインストールする

Ollama を C ドライブから D ドライブへ移動する方法(Windows版) ここの情報です。 Ollamaをインストールするとユーザーディレクトリにインストールされるので、ドメイン管理の共用PCだと、各ユーザーごとに結構な量の本体と、モデルが保存されるので、これを共用化できないかと実行 コマンドプロンプトで OllamaSetup.exe /DIR="C:\Ollama" でインストールできる 。スタートメニューのアイコンは、インストールしたユーザーのスタートメニューに登録されるので、 ちゃんと全ユーザー向けのスタートメニュー C:\Users\[ユーザー]\AppData\Roaming\Microsoft\Windows\Start Menu\Programs 以下に変更 C:\ProgramData\Microsoft\Windows\Start Menu\Programs モデルをダウンロードするディレクトリも変更 システムの環境変数を OLLAMA_MODELS を C:\OllamaModels に設定する システム環境変数を設定する場合は、「設定」アプリの「システム」→「バージョン情報」→「システムの詳細設定」良い。 C:\OllamaModels を作っておく 一旦再起動かな。 intelGPU,NPUを使うために setx OLLAMA_VULKAN 1 setx OLLAMA_INTEL_GPU 1 を設定するとGPUを使い始めるが急にばかになる。 setx OLLAMA_VULKAN 0 setx OLLAMA_INTEL_GPU 0 でCPUとちょっとのGPUが安定した回答。ただ、CPUを使うといっても12コアの6コアしか使っていない。Core Ultra 9 285Hを使っているが P / E / LP Eコア 6 / 8 / 2 なので、Pコアしか使っていない。 OpenVINO™ツールキットのインストールをしていなかったので、追加したけどかわらんかった。OpenVINOはpythonもいれないといけないのか、面倒くさいな。 ただ、Geforce3050 12GBと速度あんまりかわらないような・・・・・。  

ubuntuでCVATを構築して、ネットワーク越しにみんなが使えるようにする。サービスとして起動する

[失敗]ubuntuでCVATを構築して、ネットワーク越しにみんなが使えるようにする 2026/5/2 にように、何回やっても、ダメだったのが、今回  本家  みながらしたら、 ここ も横目で見ながらインストールしたら、何もなかったように動いた。 基本、何も前回と変わらない?はずなのが・・・・。 気を良くしたので、個人ユーザーのホームディレクトリでは無く、他のディレクトリにインストールして、サービスのように、サーバーが起動したら使えるようにしてみよう。 /home/docker に cvat ディレクトリを作る sudo mkdir /home/docker cd /home sudo chmod 777 -R docker/  sudoi mkdir /home/docker/cvat cd  /home/docker/  git clone https://github.com/cvat-ai/cvat cd cvat/ docker compose up -d なぜか、環境が引き継がれている?Dockerよくわからんな。勉強せんと とかってやっていたが、結果としてそもそもユーザーログインせずに、 再起動してもアクセスできる。やっぱり、Docker勉強しないと。

[失敗]ubuntuでCVATを構築して、ネットワーク越しにみんなが使えるようにする

イメージ
https://note.com/pure_pansy8851/n/na2c0117c798e  のまんまです。 ubuntu 24.04に導入 Dockerの準備 多分以下のコマンド初期状態でもインストール済みかと sudo apt install -y ca-certificates curl gnupg  次に 以下の3行のコマンドを実行 sudo install -m 0755 -d /etc/apt/keyrings curl -fsSL https://download.docker.com/linux/ubuntu/gpg   | sudo gpg --dearmor -o /etc/apt/keyrings/docker.gpg sudo chmod a+r /etc/apt/keyrings/docker.gpg cat /etc/apt/sources.list.d/docker.list で以下の内容が一行で書かれていればOK? deb [arch=amd64 signed-by=/etc/apt/keyrings/docker.gpg]   https://download.docker.com/linux/ubuntu   noble stable Docker関係のインストール sudo apt update sudo apt install -y docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin  sudo systemctl enable --now docker Cockpitのインストール  sudo apt install cockpit cockpit-podman http://ipアドレス:9090でアクセスできる  sudoなしでdockerを使えるようにする sudo usermod -aG docker $USER ログオフ 動作確認 docker run hello-world で以下のようなメッセージが表示される。それ以外にも色々表示される   Hello from Docker! Th...

Ollama(1)インストール

 Ollamaをインストールする。どうもVer.0.10.0 2025年7月中頃のバージョンアップでGUIがついたらしい。 現在の最新はver.0.20.5だ 通常OllamaSetup.exeをそのままインストールすると各ユーザーのディレクトリ C:\Users\<ユーザー名>\AppData\Local\Programs\Ollama にインストールされてそのユーザーしか使いない 全ユーザーにインストールスには 管理者権限のコマンドプロンプトで OllamaSetup.exe /DIR="C:\Program Files\Ollama" を実行する。 通常通りインストール用のGUIが表示されるので「install」を押す。インストールが進み。 スタートメニューは各ユーザーのメニューに登録されるのでこれも全ユーザーのフォルダーに変更する。 モデルのダウンロード先も変更 システムの環境変数に OLLAMA_MODELS= C:\tool\OllamaModels  などを追加する。一度起動しているとこの設定が反映されないので、手動で変更 あと、インストールした以外のユーザーでは環境変数が足りないので、環境変数を設定。 パスに C:\Program Files\Ollama を追加。 set PATH=C:\Program Files\Ollama;%PATH% ですね。 トライ絵図、これで動くけどNPUが動かずGPUが動いている。のでNPU対策が次か