統計的な顔モデル

Point Cloud LibraryのBlog見てたら面白そうなの見つけた。

Statistical Face Model ( First phase )

イントロダクション
このプロジェクトのゴールは、RGB-Dカメラでキャプチャした顔の表情によって、スキャンモデルの顔の表情を変化させるプログラムを実装することである。
まず、顔のトレーニングデータベースに基づいた統計モデルを作成する。
ここで使用するトレーニングセットはFaceWarehouseプロジェクトによって提供されているobjファイル形式の3Dメッシュである。 FaceWarehouseの詳細はこちら→FaceWarehouse: a 3D Facial Expression Database for Visual Computing

中略(統計モデルを求める計算方法)

平均顔

統計モデル

画像のように、得られたモデルは、平均顔と比べてやや平坦である。これはトレーニングセット内の顔の大多数が多少平坦なためである。本プロジェクトでは、様々なタイプの顔の取得を考慮したモデルが必要なため、データベース内のサンプルの共分散を検討した。

今後
今回のモデルでは面の頂点のみを使用したが、テクスチャ座標も考慮する必要がある。残念ながら、データベースはまだ色についての情報を提供していない。 データが利用可能になったら、色も考慮したモデルを作成する必要がある 。
統計モデルが完成したら、3Dのレジストレーションアルゴリズムを表情のテストサンプルモデルに適用する必要がある。

ダメだ、統計が絡むとちゃんと理解できない…

関連記事

2D→3D復元技術で使われる用語まとめ

コンピュータビジョンの技術マップ

DCGAN (Deep Convolutional GAN):畳み込みニューラルネットワークによる敵...

ニューラルネットワークで画像分類

U-Net:ディープラーニングによるSemantic Segmentation手法

Point Cloud Consortiumのセミナー「3D点群の未来」に行ってきたよ

OpenCV 3.1のsfmモジュールのビルド再び

DensePose:画像中の人物表面のUV座標を推定する

SegNet:ディープラーニングによるSemantic Segmentation手法

FacebookがDeep learningツールの一部をオープンソース化

TensorSpace.js:ニューラルネットワークの構造を可視化するフレームワーク

Blendify:コンピュータービジョン向けBlenderラッパー

viser:Pythonで使える3D可視化ライブラリ

R-CNN (Regions with CNN features):ディープラーニングによる一般物体...

Kubric:機械学習用アノテーション付き動画生成パイプライン

Live CV:インタラクティブにComputer Visionコーディングができるツール

hloc:SuperGlueで精度を向上させたSfM・Visual Localization

Structure from Motion (多視点画像からの3次元形状復元)

OpenCVのバージョン3が正式リリースされたぞ

PGGAN:段階的に解像度を上げて学習を進めるGAN

Active Appearance Models(AAM)

Cartographer:オープンソースのSLAMライブラリ

書籍『イラストで学ぶ ディープラーニング』

OpenCVで平均顔を作るチュートリアル

スクラッチで既存のキャラクターを立体化したい

NeRF (Neural Radiance Fields):深層学習による新規視点合成

TorchStudio:PyTorchのための統合開発環境とエコシステム

Iridescence:プロトタイピング向け軽量3D可視化ライブラリ

AfterEffectsプラグイン開発

ディープラーニング

MVStudio:オープンソースのPhotogrammetryツール

OpenCVのfindEssentialMat関数を使ったサンプルを読んでみる

Qlone:スマホのカメラで3Dスキャンできるアプリ

GAN (Generative Adversarial Networks):敵対的生成ネットワーク

機械学習手法『Random Forest』

Autodesk Mementoでゴジラを3次元復元する

OpenCVの超解像(SuperResolution)モジュールを試す

OpenMVSのサンプルを動かしてみる

iPadをハンディ3Dスキャナにするガジェット『iSense 3D Scanner』

畳み込みニューラルネットワーク (CNN: Convolutional Neural Network...

CycleGAN:ドメイン関係を学習した画像変換

Google製オープンソース機械学習ライブラリ『TensorFlow』のWindows版が公開された

コメント