AI

ローカルでAMDのGPU(direct-ml)を使ってLLMを動作させる(お試し)

やりたいことAMDのGPUを使用してでLLMを動作させてみます。DirectMLとDirectMLのサンプルコードを使用します。コードの修正を行います。実行は自己責任でお願いします。ただし以下の環境でギリギリ動作する(不安定、回答が変)状態です。CPUAMD Ryzen 7 7735HSメモリ32GBストレージ外付けHDD(システムディスクはSSD、容量が大きいため外付けで運用)GPUAMD Radeon 680M(CPU内臓)環境構築作業用のフォルダを作成します。以下のリポジトリをクローンします。venv環境への移動(任意)必要であればコマンドプロンプトで以下のコマンドを実行して、Venvの...
AI

AMDのGPUでStable Audio Open 1.0で音声作成

やりたいことAMDのGPUを使用してでStable Audio Open 1.0で音声作成してみます。DirectMLを使用します。環境構築作業用のフォルダを作成します。venv環境への移動(任意)必要であればコマンドプロンプトで以下のコマンドを実行して、Venvの環境を作成してアクティブにします。python -mvenv venvvenv\scripts\activate.batライブラリのインストール以下のコマンドを実行して必要なライブラリのインストールを行います。pip install scipypip install torch torchvision torchaudiopip i...
AI

Modelのダウンロードに失敗(Cannot access gated repo…)

やりたいことfrom_pretrainedなどで自動でモデルをダウンロードしようとした際に以下のようなエラーが出力されダウンロードできないことがあります。Cannot access gated repo for url  モデルパス.Access to model モデルパス is restricted. You must have access to it and be authenticated to access it. Please log in.具体例:Cannot access gated repo for url Access to model stabilityai/stabl...
AI

[Python]from_pretrainedなどダウンロードされたモデルの保存先

やりたいことモデルのテストコードなどを実行した場合、自動でモデルがhuggingfaceからダウンロードされ実行されることがあります。しかしダウンロードされた多くの場合、ダウンロードされたモデルは実行したコードの近くには保存されていません。(2回目以降はダウンロードされないのでローカルに保存されていることはわかります。)モデルなのでファイルサイズは大きく必要に応じて整理をした方がいいです。この記事ではWindows11環境でのダウンロードされたファイルの保存場所を紹介します。保存場所モデルは以下の場所に保存されます。C:\Users\ユーザ名\.cache\huggingface* ユーザ名は...
AI

huggingfaceで401/403エラー

やりたいことhuggingfaceでモデルをダウンロードしようとした際に401エラーが表示され、ダウンロードできないことがあります。この記事では401/403が表示された際の対策を紹介します。対策401エラー下の401エラーが表示された場合、huggingfaceにログインしているかどうかを確認してください。アカウントをすでに持っている場合は右上のLog Inからログインします。アカウントを持っていない場合はSign Upをクリックしてアカウントを作成します。基本ユーザは無料です。ログインあとにダウンロードを試します。403エラーが表示される場合は続けて下の403エラーを確認してください403...
アプリケーション

有料アプリケーションの無料代替アプリケーションまとめ

やりたいことWindowsの有料アプリケーションの無料代替アプリケーションまとめです。代替先画像処理PhotoshopClipStudio などGimpペイントDrawIllustrator などInkscape動画編集premiere などAviUtl3DMaya などBlender画像処理Gimp特徴Photoshopに似た無料の画像処理アプリです。レイヤやフィルタなど基本的な機能はそろっています。Photoshop向けのPSDフォーマットの読み書きにも対応しています。デメリット有料アプリにあるようなアセットやAI連携などはないです。Web上の資料は少な目。クリスタのように絵を描くことに特...
AI

ローカルでAMDのGPU(direct-ml)を使ってComfyUIを動作させる

やりたいこと通常Stable Diffusion ForgeはNvidiaのGPU(GeForceなど)が必要です。ComfyUIではCPU(GPUなし)で起動するbatが提供されていますが、AMDのGPU(direct-ml)で起動するbatは提供されいません。ここではAMDのGPU(direct-ml)で起動する方法を紹介します。注意すべてのCustomNode(Plugin)が動作するわけではありません。Flux. 1やJanusは動作しませんでした。理由もものによります。(”cuda”とハードコードされているものもあるし、torch-directmlが対応していないfloat8などを使...
AI

ローカルでAMDのGPU(direct-ml)を使ってStable Diffusion Forgeを動作させる

やりたいこと通常Stable Diffusion ForgeはNvidiaのGPU(GeForceなど)が必要です。下のページではCPUで動作する環境を作成しましたが、この記事ではAMDのGPUで動作する環境を作成します。オンボードのGPUでも作成時間が短くなりました。Flux. 1に関してForgeのメリットの一つとしてFlux. 1が使用できることがありますが、この記事の方法+ForgeでFlux. 1の画像作成方法ではFlux. 1で画像を作成することはできませんでした。(コード修正を加えることで画像は作成できたのですが、まとまな画像にならなかったのでここでは方法を割愛します)環境構築ダ...
AI

GPUを使わないでPCのローカルでStable Diffusion forgeを動作させる

やりたいこと通常Stable Diffusion forgeはNvidiaのGPU(GeForceなど)が必要です。ここではNVidiaのGPUが載っていないPCでCPUだけを用いてStable Diffusion forgeを動作させる方法を紹介します。環境構築ダウンロード以下のページを開きます。ページをスクロールして installing Forgeの欄を探し、recommnededになっているバイナリをクリックしてダウンロードします。展開任意のフォルダにダウンロードしたzipファイルを展開します。batの修正以下のファイルをメモ帳などのエディタで開きますwebui¥webui-user....
TypeScript

[TypeScript]カスタムイベントを使用する

やりたいことTypeScriptでカスタムイベントを発火して、イベントをトリガにして処理を行います。実装イベントの送信以下のコードでイベントを送信させます。const event = new CustomEvent("event_name", { detail: { val1: "value 1", val2: "value 2" } });dispatchEvent(event);"event_name"は任意の好きな名前に変更します。detail objectの中身は自由に変更可能です。イベントの受信イベントの受信は以下の通りです。addEventListener("event_name"...