表現のための機械学習(というかディープラーニング)がじわじわと来ている、と勝手に思っている。実際、グラフィックス系のカンファレンスでもディープラーニングのセッションが大盛況だし。

クリエイターが機械学習の恩恵を受けられるアプリケーションは、Adobe Senseiみたいに既存ツールの拡張機能という形で普及していくと思っていたけど、単独のアプリケーションも登場していますね。
Runway ML
クリエイターのための機械学習ツール。
あなたの創作活動に人工知能の力を、直感的でシンプルなビジュアルインターフェースで提供します。
さあ、今日から新しい創作方法を始めましょう。
Runwayは、あらゆるジャンルのクリエイターが機械学習を直感的に利用できるプラットフォームです。
要するに、非プログラマーでも機械学習の恩恵を受けられるツール。
まだベータ版ですが、Runway MLはMac, Windows, Linux環境で使える機械学習アプリケーション。
現在は完全なクラウドアプリになりました。
NIPS 2018のセッションでも紹介されていたようですね。
GUI操作だけでModels Directoryから様々な機械学習手法の学習済みモデルを検索でき、アセットとして利用できる。
現在のBeta Programでは、アカウント登録すると10ドル分のGPUクレジットがもらえる。GPU利用時間1分あたり5セントらしい。
クラウドGPUではなく、ローカルで実行する場合は別途Dockerのインストールが必要。(モデルによってはクラウドGPUでしか実行できないものもあるようです)
Pythonで使えるRunway Model SDKも用意されており、既存のモデルをRunway MLへ持ってくることもできるらしい。
https://github.com/runwayml/model-sdk
また、公式のGitHubリポジトリにはUniy, Processing, TouchDesigner, arduinoなどからRunway MLを利用するサンプルが公開されている。
モノクロ映像のカラー化
ということで、公式ドキュメントを読みながらRunway MLに触ってみた。インストール方法に従ってオイラはWindows環境でインストール。
試しにモノクロ映像のカラー化をやってみよう。Models Directoryで”colorize”と検索してみると、Automatic ColorizationとDeOldifyの2つがヒットした↓

とりあえずDeOldifyの方を使ってみよう。Add to Workspaceでワークスペースに追加。
このモデルはクラウドGPUでのみ実行できるようだ。Artistic, Stable, Video,の3つのモデルが選べるらしいけど、とりあえずArtisticで。
InputとOutputの形式を指定して、Run Remotelyボタンを押すだけ。
オイラは手元にある初代ゴジラ (1954)の映像を使ってみた↓


昼間のシーンは割と上手くカラー化されたな。
まだベータ版だからなのか、Runway MLのインストール先ディレクトリを指定できなくて、Cドライブの変な場所を作業ディレクトリとして使われてしまうのが難アリな感じではある。
OutputのExport DirectoryをCドライブとは別のドライブに指定したらエラーで結果が保存されなかった。Export DirectoryにはCドライブ以下のディレクトリを指定しておかないと無駄なGPUクレジットを消費するはめになる。
InputとOutputに動画ファイルを指定することはできるけど、Output形式を動画にするとエンコードが粗くて低画質な動画が吐かれるので、Outputは連番静止画(Image Directory)にした方が無難。
そして、Input形式に動画ファイルを指定すると、Outputがコマ落ちしたりするので、ここも連番静止画の方が安全だ。
Runway MLには他にもモデルが沢山あり、DensePoseも手軽に試せそう。

最近のアップデートで複数のモデルを接続できるようになったらしい↓
https://medium.com/runwayml/adding-support-for-model-chaining-cd507f0fa935
関連記事
海洋堂 20cmシリーズ『キンゴジ』 口内の改造
MLDemos:機械学習について理解するための可視化ツール
3D復元技術の情報リンク集
S.H.MonsterArts ゴジラ(2016) は7月1...
2018年 観に行った映画振り返り
OpenMayaRender
FreeMoCap Project:オープンソースのマーカー...
生物の骨格
Physically Based Rendering
コンピュータビジョンの技術マップ
S.H.MonsterArts ゴジラ(2001)はプレミア...
ビリケン商会 メカゴジラⅡ 眼の2次原型を作る
Stanford Bunny
ZScript
ワンダーフェスティバル2017[冬]に行ってきた
ZBrushで仮面ライダー3号を造る 仮面編 Dam Sta...
ウルトラ×ライダー
ビリケン商会 メカゴジラⅡ 耳パーツの型取り・複製
GMKゴジラ完成!
この連休でZBrushの スキルアップを…
酒井ゆうじ造型工房『23cm シン・ゴジラ』 赤のグラデーシ...
Unite 2014の動画
海洋堂 20cmシリーズ『デスゴジ』 クリアーオレンジVer...
GMKゴジラの爪の塗装
ビオゴジがついにS.H.MonsterArts化!
Webスクレイピングの勉強会に行ってきた
Unreal Engine 5の情報が公開された!
Paul Debevec
ManuelBastioniLAB:人体モデリングできるBl...
ゴジラの造形
オープンソースのIT資産・ライセンス管理システム『Snipe...
7月にNHK BSプレミアムでゴジラ映画が放送されるぞ
Accord.NET Framework:C#で使える機械学...
2017年 観に行った映画振り返り
Composition Rendering:Blenderに...
『スター・ウォーズ 最後のジェダイ』のVFXブレイクダウン ...
全脳アーキテクチャ勉強会
CNN Explainer:畳み込みニューラルネットワーク可...
酒井ゆうじ造型工房『23cm シン・ゴジラ』 瞬間接着剤でパ...
ラクガキの立体化 背中の作り込み・手首の移植
海洋堂 20cmシリーズ『デスゴジ』 クリアーオレンジVer...
海洋堂 20cmシリーズ『モスゴジ』 首パーツの接着・爪と全...


コメント