統計的な顔モデル

Point Cloud LibraryのBlog見てたら面白そうなの見つけた。

Statistical Face Model ( First phase )

イントロダクション
このプロジェクトのゴールは、RGB-Dカメラでキャプチャした顔の表情によって、スキャンモデルの顔の表情を変化させるプログラムを実装することである。
まず、顔のトレーニングデータベースに基づいた統計モデルを作成する。
ここで使用するトレーニングセットはFaceWarehouseプロジェクトによって提供されているobjファイル形式の3Dメッシュである。 FaceWarehouseの詳細はこちら→FaceWarehouse: a 3D Facial Expression Database for Visual Computing


スポンサーリンク

中略(統計モデルを求める計算方法)


スポンサーリンク

平均顔

統計モデル

画像のように、得られたモデルは、平均顔と比べてやや平坦である。これはトレーニングセット内の顔の大多数が多少平坦なためである。本プロジェクトでは、様々なタイプの顔の取得を考慮したモデルが必要なため、データベース内のサンプルの共分散を検討した。

今後
今回のモデルでは面の頂点のみを使用したが、テクスチャ座標も考慮する必要がある。残念ながら、データベースはまだ色についての情報を提供していない。 データが利用可能になったら、色も考慮したモデルを作成する必要がある 。
統計モデルが完成したら、3Dのレジストレーションアルゴリズムを表情のテストサンプルモデルに適用する必要がある。

ダメだ、統計が絡むとちゃんと理解できない…


スポンサーリンク

関連記事

RefineNet (Multi-Path Refinement Network):ディープラーニン...

Cartographer:オープンソースのSLAMライブラリ

Autodesk Mementoでゴジラを3次元復元する

Paul Debevec

UnrealCV:コンピュータビジョン研究のためのUnreal Engineプラグイン

ArUco:OpenCVベースのコンパクトなARライブラリ

Runway ML:クリエイターのための機械学習ツール

Theia:オープンソースのStructure from Motionライブラリ

Alice Vision:オープンソースのPhotogrammetryフレームワーク

機械学習について最近知った情報

オープンソースのロボットアプリケーションフレームワーク『ROS (Robot Operating S...

「ベンジャミン·バトン数奇な人生」でどうやってCGの顔を作ったのか

SegNet:ディープラーニングによるSemantic Segmentation手法

Faster R-CNN:ディープラーニングによる一般物体検出手法

オープンソースの顔認識フレームワーク『OpenBR』

FreeMoCap Project:オープンソースのマーカーレスモーションキャプチャ

AR (Augmented Reality)とDR (Diminished Reality)

Point Cloud Libraryに動画フォーマットが追加されるらしい

CGのためのディープラーニング

AfterEffectsプラグイン開発

Structure from Motion (多視点画像からの3次元形状復元)

OpenGV:画像からカメラの3次元位置・姿勢を推定するライブラリ

ベイズ推定とグラフィカルモデル

機械学習手法『Random Forest』

PSPNet (Pyramid Scene Parsing Network):ディープラーニングによ...

GoogleのDeep Learning論文

3D Gaussian Splatting:リアルタイム描画できるRadiance Fields

OpenMVSのサンプルを動かしてみる

MeshroomでPhotogrammetry

Adobeの手振れ補正機能『ワープスタビライザー』の秘密

iPhoneで3D写真が撮れるアプリ『seene』

顔追跡による擬似3D表示『Dynamic Perspective』

OpenCVの超解像(SuperResolution)モジュールを試す

BlenderProc:Blenderで機械学習用の画像データを生成するPythonツール

ニューラルネットワークで画像分類

読みやすくて高速なディープラーニングのフレームワーク『Caffe』

BlenderでPhotogrammetryできるアドオン

OpenGVのライブラリ構成

fSpy:1枚の写真からカメラパラメーターを割り出すツール

3Dスキャンに基づくプロシージャルフェイシャルアニメーション

OpenCV 3.3.0-RCでsfmモジュールをビルド

海外ドラマのChromaKey

コメント