TensorRT stable diffusion
※ まずは結論
ControlNetが使えない = ほとんどの場面で意味なし = 対応するまで待つのが吉
他にも動かないのがいろいろ
NvidiaがStable Diffusionに正式対応的な話がある
速度は通常の2倍出る
今は待つのが吉
----
早くなるみたいだけど、まだやらない方がいい。時間の無駄
解像度固定だし、いろんなものが動かない。
もう少し枯れるまで待つべし。
そういうのが楽しい人は別。
一応 追記Result
Steps: 20, Sampler: DPM++ 2M Karras, CFG scale: 7, Seed: 1865166250, Size: 512x512, Model hash: cbfba64e66, Model: Counterfeit-V3.0_fp16
3060 12GB で 20回回すと 1m 14.72s (75秒）(xformers)
TensorRT 39秒
こんな感じ。細かい設定はよくわからん。公表の4倍はいかないけど、2倍近くだな。ちなみにドライバーは 最新。automatic 。
しかし ほとんど web uiの心臓といえる ControlNetで
いろんなのが動かない。他も動かないのあると思う
現状4070 か 4090買おうか迷ってるわけだけど、個人的には3060でも使える。
倍だとちょうど1.5ランク上のグラボって感じになるから 今後ちゃんと動くのに期待ですね。
高解像度と、すごい学習以外は ソフトの方でスピードアップしたとすると,4070シリーズで十分な気がするな。
電気も食わないし。4060は違う気がする。
DirectMLが早くなったとかもあったので、ドライバーをUPしてやってみたけど これは全然だめだね。ただちゃんと動く。