AI ローカルでAMDのGPU(direct-ml)を使ってLLMを動作させる(お試し)
やりたいことAMDのGPUを使用してでLLMを動作させてみます。DirectMLとDirectMLのサンプルコードを使用します。コードの修正を行います。実行は自己責任でお願いします。ただし以下の環境でギリギリ動作する(不安定、回答が変)状態です。CPUAMD Ryzen 7 7735HSメモリ32GBストレージ外付けHDD(システムディスクはSSD、容量が大きいため外付けで運用)GPUAMD Radeon 680M(CPU内臓)環境構築作業用のフォルダを作成します。以下のリポジトリをクローンします。venv環境への移動(任意)必要であればコマンドプロンプトで以下のコマンドを実行して、Venvの...