Autodesk Mementoでゴジラを3次元復元する

この前、Autodesk Mementoで複数枚の写真から3D復元を試してみたけど、あんまり上手くいかなかった。



追記:ベータ版だったAutodesk Mementoから現在は名称が変わり、Autodesk Remakeになりました。機能限定版なら引き続き無料で利用できます。

Mementoスクリーンショット

この結果を見ると、3D復元したい被写体以外に、背景の画像特徴量も拾ってしまって復元がかかっている様子。Shape from Motionの仕組みを考えると、画像間の対応関係を求めるために局所特徴量を手掛かりにするはずなので、おそらくAutodesk Mementoも何かしらの局所特徴量を用いて処理しているはずである。
ということは、同じ撮影素材でも、被写体以外の余計な局所特徴量を取り除いてから復元処理をかければ、もう少し3D復元が上手くいくのではないかと思い始めた。

てっとり早く、前回と同じ多視点画像素材17枚をAfterEffectsでキーイングして、被写体以外の背景部分を完全に単色に塗りつぶしてフラットにして、局所特徴量を取りづらい状態にして見た。Autodesk Mementoへの入力画像はJPEG形式にしか対応していないようなので、少し劣化しちゃうけどJPEGで作った。(最初はアルファチャンネル付きPNGで試そうとしたんだけど。)

gmk_00000gmk_00001



gmk_00002gmk_00003
gmk_00004gmk_00005
gmk_00006gmk_00007
gmk_00008gmk_00009
gmk_00010gmk_00011
gmk_00012gmk_00013
gmk_00016gmk_00015
gmk_00014

キーイング後も影は微妙に残っておりますが…

復元結果

ということで、再挑戦した復元結果です。
前よりはだいぶまともになったけど、まだ完全に造形をトレースできてないですね。↓

GMK_Textured
GMK_Shaded

※背景部分もポリゴンが生成されたけど、手作業で除去しました。

被写体のゴジラにフィギュア自体は、光沢の無い、比較的理想の3D復元素材だと思うけど、今回使った画像素材はもともとiPhoneで適当に撮ったものだから、撮り方が悪かったのかも。ちゃんとカメラを固定して、ターンテーブルを使って等間隔の角度で撮った方が良さげ。怪獣という被写体は表面のディティールが多くて画像認識的には便利だと思いますよ。
Mementoというツールの使い方としては、こういう、ある程度汚い3D復元結果でも、これをユーザーが編集してキレイに整形すればコンテンツとして利用できる3Dモデルなるよ、ってことなんだろうな。現状、画像からの3D復元はそんなに万能な技術じゃないみたい。
キレイに整形したらZBrushへインポートしてみようかな。

関連記事

ZBrushでアヴァン・ガメラを作ってみる 全体のバランス調整

CGWORLD CHANNEL 第21回ニコ生配信は『シン・ゴジラ』メイキングスペシャル!

3D Gaussian Splatting:リアルタイム描画できるRadiance Fields

顔画像処理技術の過去の研究

顔追跡による擬似3D表示『Dynamic Perspective』

海洋堂の20cm ゴジラ ソフビキットが続々再販

MPFB2:Blenderの人体モデリングアドオン

海洋堂 20cmシリーズ『モスゴジ』 失敗箇所の本格修復

口笛から作曲できるスマホアプリ『Chordana Composer』

AfterEffectsプラグイン開発

Paul Debevec

ZBrushでアヴァン・ガメラを作ってみる 脚のポーズ調整

酒井ゆうじ造型工房『23cm シン・ゴジラ』 爪の塗装・全身に黒のグラデーション塗装

ZBrushでアヴァン・ガメラを作ってみる 全体のバランス調整 その2

なんかすごいサイト

シン・ゴジラの雛型レプリカの予約受付開始

PureRef:リファレンス画像専用ビューア

酒井ゆうじ造型工房『23cm シン・ゴジラ』 表面処理 その1

ZBrushで仮面ライダー3号を造る ベース編

酒井ゆうじ造型工房『23cm シン・ゴジラ』 エポキシ接着剤でパーツの接着

ZBrushでアヴァン・ガメラを作ってみる 腕の作り込み

ラクガキの立体化 分割ラインの変更・バランス調整

映画『シン・ウルトラマン』 メイキング記事まとめ

酒井ゆうじ造型工房『20cm ビオゴジ出現』 爪の塗装

ゴジラ 2000ミレニアム 完成

オープンソースのテクスチャマッピングシステム『Ptex』

海洋堂 20cmシリーズ『84ゴジラ』 背びれ・下アゴパーツの軸打ち加工

ZBrushでカスタムUIを設定する

Alice Vision:オープンソースのPhotogrammetryフレームワーク

Blender 2.81でIntel Open Image Denoiseを使う

DCGAN (Deep Convolutional GAN):畳み込みニューラルネットワークによる敵...

書籍『イラストで学ぶ ディープラーニング』

立体映像プレイヤー『Stereoscopic Player』

映画『シン・ゴジラ』のワールドプレミア イベント

OpenGVのライブラリ構成

OpenCV 3.3.0 contribのsfmモジュールのサンプルを動かしてみる

『PIXARのひみつ展』に行ってきた

Iridescence:プロトタイピング向け軽量3D可視化ライブラリ

シン・ゴジラのファンアート

PyTorch3D:3Dコンピュータービジョンライブラリ

iPhone 3GSがますます欲しくなる動画

Mixamo:人型3Dキャラクターアニメーション制作サービス

コメント