省メモリ高速化ローカル画像生成AI Stable-Diffusion Forge - スマートフォン、タブレットでLinux、*BSDを使おう @ Wiki

こちらに書きました

安くなってきた中古ゲーミングノートPCを使いローカル生成AIのStable-Diffusion ForgeをCUDAでチューニングしてみた。FP8＋LCM Turbo＋HyperTileで3.8秒〜15.4秒/枚とそこそこ高速。CPU対比5倍速。古いGPUでもオススメ

こちらに更新しました。色々と動かすのに苦労するかも。

CPUでも8/15に更新されたStable-Diffusion-WebUI-Forge v2をUbuntu22.04で試してみた。GGUF量子化対応。Flux.1モデルも対応したが動作テスト中。かなりメモリが必要でSwapに注意。