画像生成AI Stable Diffusionで遊ぶ

7月にDALL-E2Midjourneyが公開されて以降、画像生成AIの話題が尽きない。
ほんの2,3ヶ月の間に、文章から画像を生成するtext to imageの新しい研究やサービス・ツールへの移植が毎日のように次々と公開されている。
https://note.com/yamkaz/m/mad0bd7dabc99

オイラも8月にMidjourneyを無料枠で試してみた↓



Stability.Aitext to image手法の1つであるStable Diffusionオープンソースで公開したことで、text to imageが色んなサービスやツールに組み込まれて一気に手軽に試せるようになった。
https://huggingface.co/CompVis/stable-diffusion-v1-4
https://github.com/CompVis/stable-diffusion



text to imageを利用できる有料サービスに課金しても良いけど、今はかなり円安なのでできれば自分のPCローカルでtext to image動かして好き放題遊びたい。そこそこ良いスペックのPCはあるので。


NVIDIA GeForce RTX 3080を購入
7月にデスクトップPCを新調したけど、グラフィックスボードだけは新製品が出るのを待っていた。NVIDIAのGeForce RTX 30シリーズが9月に発表され、発売と同時にGIGABYTE GV-N3080GAMING OC-10GDを注文...


少し調べてみると、今のところ最も手軽にtext to imageをローカルで試せるのはStable DiffusionをGUIで包んだこちらのアプリケーション↓

Stable Diffusion GRisk GUI


Stable Diffusionのモデルを実行するためのインターフェイスです。つまり、テキストのpromptを入力するとそれに対応した画像が返ってきます。

これは超アルファ版であるため、多くのバグがある可能性があります。Stable Diffusion GRisk GUI.exeを実行するだけで使用できます。
生成する画像の解像度設定は64の倍数(64, 128, 192, 256など)である必要があり、512×512解像度が最も良い生成結果を得られます。

重要事項:

  • 一部のGTX 1660カードでは、Use Half-Precisionで実行すると問題が発生すると判明しています。(現時点でGUIではこのオプションにしか対応していません)
  • Samples per promptはまだ機能しておらず、promptごとに常に1つの画像が生成されます。同じpromptを複数行繰り返せばSamples per promptと同等の効果を得られます。
  • 512X512で良好な結果を得られますが、他の解像度は品質に影響を与える可能性があります。
  • Step数を多くするとより品質が向上します。Step数を増やしてもメモリ消費量は増えず、処理時間が長くなります。
  • 150 Step以下から始めると良いでしょう。
  • .exeの起動時に以下のエラーが表示されてもアプリは引き続き動作します。


torchvision\io\image.py:13: UserWarning: Failed to load image Python extension:

torch\_jit_internal.py:751: UserWarning: Unable to retrieve source for @torch.jit._overload function: .

warnings.warn(f"Unable to retrieve source for @torch.jit._overload function: {func}.")

torch\_jit_internal.py:751: UserWarning: Unable to retrieve source for @torch.jit._overload function: .

warnings.warn(f"Unable to retrieve source for @torch.jit._overload function: {func}.")

オイラの環境だと640×640解像度まではエラー無く動作したけど、推奨解像度の512×512の方が生成品質は良くなるらしいです。
https://note.com/abubu_nounanka/n/n496a98677201

追記:もっとリッチなGUIアプリがあった↓

NMKD Stable Diffusion GUI


https://github.com/n00mkrad/text2image-gui
https://pajoca.com/stable-diffusion-gui-nmkd/
https://pajoca.com/stable-diffusion-gui-img2img/



promptとパラメータを色々工夫して好みの画像生成を模索してみた結果↓





























ハイスペックなPCを持っていれば、パソコンを起点とした遊びは充実するね。

もはやGANの時代ではないらしい。Stable Diffusionの仕組みについてちゃんと勉強したいなぁ。
https://ja.stateofaiguides.com/20221012-stable-diffusion/

追記:Stable Diffusionをスマホローカルで動作させた例もチラホラ


関連記事

オープンソースの顔認識フレームワーク『OpenBR』

第2回Webスクレイピング勉強会の資料

映画『ジュラシック・ワールド/炎の王国』のVFXブレイクダウン まとめ

Physics Forests:機械学習で流体シミュレーションを近似する

C#で使える遺伝的アルゴリズムライブラリ『GeneticSharp』

顔追跡による擬似3D表示『Dynamic Perspective』

フルCGのウルトラマン!?

DensePose:画像中の人物表面のUV座標を推定する

ドラマ『ファーストクラス』が始まった

エニアグラム

ミニ四駆のラジコン化情報

ちっちゃいデスクトップパソコンだよ

NumSharp:C#で使えるNumPyライクな数値計算ライブラリ

ZBrushでアヴァン・ガメラを作ってみる 頭頂部と首周りを作り込む

MPC社によるゴジラ(2014)のVFXブレイクダウン

シフトカーを改造する人達

Deep Learningとその他の機械学習手法の性能比較

JavaによるCGプログラミング入門サイト (日本語)

マインドマップ作成ツール『MindNode』

『スター・ウォーズ フォースの覚醒』のVFXブレイクダウン まとめ

OpenSfM:PythonのStructure from Motionライブラリ

ギター曲向けの作曲ツール『TuxGuitar』

ZBrushのTranspose Masterでポーズを付ける

映画から想像するVR・AR時代のGUIデザイン

ZBrushでゴジラ2001を作ってみる 身体のアタリを作る

Physically Based Rendering

U-Net:ディープラーニングによるSemantic Segmentation手法

『ローグ・ワン/スター・ウォーズ・ストーリー』"あのキャラクター"のメイキング

ZBrushでアヴァン・ガメラを作ってみる 歯茎を別パーツへ分割

Photogrammetry (写真測量法)

書籍『開田裕治 怪獣イラストテクニック』

参考になりそうなサイト

イタリアの自動車ブランドFiatとゴジラがコラボしたCMのメイキング

ラクガキの立体化 進捗

書籍『ゼロから作るDeep Learning』で自分なりに学ぶ

WebGL開発に関する情報が充実してきている

仮面ライダーあつめ

Phongの表現力パネェ 材質別のPhong Shader用パラメータ一覧

カメラ付きの空飛ぶリストバンドで自撮りする発明(ウェアラブル・ドローン)

ZBrushでゴジラ2001を作ってみる 姿勢の変更

写真から3Dメッシュの生成・編集ができる無料ツール『Autodesk Memento』

Point Cloud Utils:Pythonで3D点群・Meshを扱うライブラリ

コメント