AI

AI

簡単なプロンプトでローカル画像編集(/コマンドを試す)

やりたいことローカルの画像生成環境(StableDiffusion.cpp)で簡単なプロンプトを用いて画像編集を行います。概要ChatGPTやGeminiでは/の後に簡単な英語をつけるとその通りの画像を生成してくれるそうです。(/コマンド)ローカルの環境でも使えるのか試します。実験入力画像結果モデルflux-2-klein-4b-Q4_0.ggufプロンプト/anime_styleモデルflux-2-klein-4b-Q4_0.ggufプロンプト/nightモデルqwen_image_2.1-Q2_K.ggufプロンプト/anime_styleモデルflux-2-klein-4b-Q4_0.g...
AI

ServerモードのLayaを外側のJSで使用

やりたいこと以下の記事でLayaをローカル環境でサーバモード動作させてみました。ここでは起動したサーバのLayaをJSから読んでみます。* スクリプトの修正が必要です。Pythonなのでビルドは不要です。前準備まずは以下の記事を参考にしてローカル環境/サーバ環境を構築します。環境構築コード修正server.pyを開いて以下の2点を修正します。この修正をしないと別のJSからREST APIを読んだ時に失敗します。(CORS Policy違反)importの追加以下のimportを追加します。(初めの方に似たimport文が並んでいるところに追加してください)from fastapi.middle...
AI

LayaをCudaなしローカル環境/サーバモードで動かしてみる

やりたいこと以下の記事でLayaをローカル環境で動作させてみました。しかし実行のたびにモデルの読み込みが走り速度があまり出ません。またプロンプトの変更にはPythonの呼び出しを変更する必要です。これではいろいろ使いにくいのでサーバモードでの起動と実行を試します。前準備まずは以下の記事を参考にしてローカル環境を構築します。環境構築ライブラリのインストールローカル環境でLayaが動作するようになったら以下のコマンドを作業フォルダで実行してServerに必要なライブラリのインストールを行います。pip install "laya"コードの取得以下のページに移動します。スクリプトの右上のダウンロード...
AI

System One Models(Laya)をCudaなしローカル環境で動かしてみる

やりたいこと最近話題のSystem One ModelsをCudaなし,Windowsのローカル環境で動かしてみます。Jevが話題ですがローカルモデルではないのでローカルモデルのLayaを試します。環境構築PythonPythonを以下のページからダウンロードしてインストールします。3.10以上が必要です。環境のPythonが3.10未満の場合はアップデートしてください。venv環境への移動(任意)必要であればコマンドプロンプトを開き、以下のコマンドを作業フォルダで実行して、Venvの環境を作成してアクティブにします。python -mvenv venvvenv\scripts\activat...
AI

[StableDiffusion.cpp]メモリ不足エラーの解消

やりたいことStableDiffusion.cppを実行した際に以下のエラーが表示されて失敗しました。ggml_vulkan: Device memory allocation of size 956379392 failed.ggml_vulkan: vk::Device::allocateMemory: ErrorOutOfDeviceMemory ggml_extend.hpp:70 - alloc_tensor_range: failed to allocate Vulkan0 buffer of size 956379392 model_manager.cpp:291 - model...
AI

StableDiffusion.cppをサーバモードで使用

やりたいことStableDiffusion.cppをサーバモードで使用します。利点とできないことまずサーバモードの利点とできないことをまとめるのでサーバモードを使用するかどうか検討してください。利点サーバモードで起動した場合、モデルがキャッシュされるので2回目以降の実行が早くなります。HTMLを用意してHTMLからプロンプトなどを指定することができます。できないことリクエストで指定できるのはプロンプト、枚数、画像サイズ、画像フォーマット、圧縮率のみです。細かい設定ができません。使用するモデルの変更を行う場合はサーバの再起動が必要です。環境構築ダウンロード以下のページから自分の環境にあったZip...
AI

ローカルで画像入力ありのLLMを動かす(AMD GPU/CPU対応)

やりたいことllama.cppを使用してローカルで画像入力ありのLLM(チャットAI)を実行します。この記事ではgoogleのローカル向けのモデルであるQwen2.5-VLを使用します。AMDの GPUでもGPUのない環境( CPU)でも実行可能です。Gammaの起動は以下のページを参照してください。環境構築llama.cpp以下のページから自分の環境にあったZipファイルをダウンロードします。WindowsでAMDのGPU(もしくはGPUが乗っていない)で動かしたい場合はvulkanむけのパッケージで動作します。NvidiaのGPUを使用する場合、CUDAむけのパッケージで動作します。上記の...
AI

早くて質がいいという噂のSD3.5をコマンドラインで実行(AMD GPU/CPU対応)

やりたいことstable-diffusion.cppを使用してコマンドラインからSD3.5-midium(stable-diffusion-3.5-medium)を実行します。早くて質がいいと噂です。AMDの GPUでも CPUでも実行可能です。環境構築stable-diffusion.cpp以下のページから自分の環境にあったZipファイルをダウンロードします。AMDのGPUで動かしたい場合はvulkanとつくものかrocmとつくものです。(基本的にはvulkanでいいと思います。rocmはどうするGPUが限られるはずです。)NVidiaのGPUはcudaが付くものが対象です。avx512,a...
AI

ローカルでLLMを動かす(AMD GPU/CPU対応)

やりたいことllama.cppを使用してローカルでLLM(チャットAI)を実行します。この記事ではgoogleのローカル向けのモデルであるgemmaを使用します。AMDのGPUでもGPUのない環境(CPU)でも実行可能です。環境構築llama.cpp以下のページから自分の環境にあったZipファイルをダウンロードします。WindowsでAMDのGPU(もしくはGPUが乗っていない)で動かしたい場合はvulkanむけのパッケージで動作します。NvidiaのGPUを使用する場合、CUDAむけのパッケージで動作します。上記のバージョンで動作しない場合はCPUむけのパッケージを使用します。対象のダウンロ...
AI

コマンドラインでQwen-Imageの画像編集を実行(AMD GPU/CPU対応)

やりたいことstable-diffusion.cppを使用してコマンドラインからQwen-Imageの画像編集を実行します。この画像編集機能はGoogleのNanoBananaと比肩するらしいです。AMDのGPUでもCPUでも実行可能です。環境構築stable-diffusion.cpp以下のページから自分の環境にあったZipファイルをダウンロードします。AMDのGPUで動かしたい場合はvulkanとつくものかrocmとつくものです。(基本的にはvulkanでいいと思います。rocmはどうするGPUが限られるはずです。)NVidiaのGPUはcudaが付くものが対象です。avx512,avx2...