DirectML

AI

ローカルでAMDのGPU(direct-ml)(もしくはGPUなし環境)を使って高速な画像生成を動作させる(お試し)

やりたいことAMDのGPUを使用して高速な画像生成を動作させてみます。通常のStableDiffusionで画像生成が遅かったり、試しに画像生成を試してみたいという方向けです。(すでにStableDiffusionでいろいろやっている方にはモデルも固定され、パラメータ調整もほぼできないため不向きです。)DirectMLとDirectMLのサンプルコードを使用します。HWのスペックは以下の通りです。CPUAMD Ryzen 7 7735HSメモリ32GBストレージ外付けHDD(システムディスクはSSD、容量が大きいため外付けで運用)GPUAMD Radeon 680M(CPU内臓)-注意-使用す...
AI

ローカルでAMDのGPU(direct-ml)を使ってLLMを動作させる(お試し)

やりたいことAMDのGPUを使用してでLLMを動作させてみます。DirectMLとDirectMLのサンプルコードを使用します。コードの修正を行います。実行は自己責任でお願いします。ただし以下の環境でギリギリ動作する(不安定、回答が変)状態です。CPUAMD Ryzen 7 7735HSメモリ32GBストレージ外付けHDD(システムディスクはSSD、容量が大きいため外付けで運用)GPUAMD Radeon 680M(CPU内臓)環境構築作業用のフォルダを作成します。以下のリポジトリをクローンします。venv環境への移動(任意)必要であればコマンドプロンプトで以下のコマンドを実行して、Venvの...
AI

ローカルでAMDのGPU(direct-ml)を使ってStable Diffusion Forgeを動作させる

やりたいこと通常Stable Diffusion ForgeはNvidiaのGPU(GeForceなど)が必要です。下のページではCPUで動作する環境を作成しましたが、この記事ではAMDのGPUで動作する環境を作成します。オンボードのGPUでも作成時間が短くなりました。Flux. 1に関してForgeのメリットの一つとしてFlux. 1が使用できることがありますが、この記事の方法+ForgeでFlux. 1の画像作成方法ではFlux. 1で画像を作成することはできませんでした。(コード修正を加えることで画像は作成できたのですが、まとまな画像にならなかったのでここでは方法を割愛します)環境構築ダ...