統計的な顔モデル

Point Cloud LibraryのBlog見てたら面白そうなの見つけた。

Statistical Face Model ( First phase )

イントロダクション
このプロジェクトのゴールは、RGB-Dカメラでキャプチャした顔の表情によって、スキャンモデルの顔の表情を変化させるプログラムを実装することである。
まず、顔のトレーニングデータベースに基づいた統計モデルを作成する。
ここで使用するトレーニングセットはFaceWarehouseプロジェクトによって提供されているobjファイル形式の3Dメッシュである。 FaceWarehouseの詳細はこちら→FaceWarehouse: a 3D Facial Expression Database for Visual Computing

中略(統計モデルを求める計算方法)

平均顔

統計モデル

画像のように、得られたモデルは、平均顔と比べてやや平坦である。これはトレーニングセット内の顔の大多数が多少平坦なためである。本プロジェクトでは、様々なタイプの顔の取得を考慮したモデルが必要なため、データベース内のサンプルの共分散を検討した。

今後
今回のモデルでは面の頂点のみを使用したが、テクスチャ座標も考慮する必要がある。残念ながら、データベースはまだ色についての情報を提供していない。 データが利用可能になったら、色も考慮したモデルを作成する必要がある 。
統計モデルが完成したら、3Dのレジストレーションアルゴリズムを表情のテストサンプルモデルに適用する必要がある。

ダメだ、統計が絡むとちゃんと理解できない…

関連記事

オープンソースのロボットアプリケーションフレームワーク『ROS (Robot Operating S...

OpenCV 3.1から追加されたSfMモジュール

NeRF (Neural Radiance Fields):深層学習による新規視点合成

UnityでOpenCVを使うには?

OpenCVでPhotoshopのプラグイン開発

Photogrammetry (写真測量法)

Fast R-CNN:ディープラーニングによる一般物体検出手法

Kornia:微分可能なコンピュータービジョンライブラリ

CNN Explainer:畳み込みニューラルネットワーク可視化ツール

書籍『OpenCV 3 プログラミングブック』を購入

DensePose:画像中の人物表面のUV座標を推定する

顔検出・認識のAPI・ライブラリ・ソフトウェアのリスト

BlenderProc:Blenderで機械学習用の画像データを生成するPythonツール

FCN (Fully Convolutional Network):ディープラーニングによるSema...

Qlone:スマホのカメラで3Dスキャンできるアプリ

SegNet:ディープラーニングによるSemantic Segmentation手法

画像生成AI Stable Diffusionで遊ぶ

PyTorch3D:3Dコンピュータービジョンライブラリ

Google Colaboratoryで遊ぶ準備

FreeMoCap Project:オープンソースのマーカーレスモーションキャプチャ

Multi-View Environment:複数画像から3次元形状を再構築するライブラリ

OpenCVのバージョン3が正式リリースされたぞ

書籍『ゼロから作るDeep Learning』で自分なりに学ぶ

Faceshiftで表情をキャプチャしてBlender上でMakeHumanのメッシュを動かすデモ

OpenCVで平均顔を作るチュートリアル

写真から3Dメッシュの生成・編集ができる無料ツール『Autodesk Memento』

OpenCVで顔のランドマークを検出する『Facemark API』

OpenSfM:PythonのStructure from Motionライブラリ

GoogleのDeep Learning論文

Active Appearance Models(AAM)

Blendify:コンピュータービジョン向けBlenderラッパー

OpenGV:画像からカメラの3次元位置・姿勢を推定するライブラリ

海外ドラマのChromaKey

OpenCV

YOLO (You Only Look Once):ディープラーニングによる一般物体検出手法

Adobeの手振れ補正機能『ワープスタビライザー』の秘密

BGSLibrary:OpenCVベースの背景差分ライブラリ

Runway ML:クリエイターのための機械学習ツール

OpenMVSのサンプルを動かしてみる

Open3D:3Dデータ処理ライブラリ

池袋パルコで3Dのバーチャルフィッティング『ウェアラブル クロージング バイ アーバンリサーチ』

BlenderでPhotogrammetryできるアドオン

コメント