統計的な顔モデル

Point Cloud LibraryのBlog見てたら面白そうなの見つけた。

Statistical Face Model ( First phase )

イントロダクション
このプロジェクトのゴールは、RGB-Dカメラでキャプチャした顔の表情によって、スキャンモデルの顔の表情を変化させるプログラムを実装することである。
まず、顔のトレーニングデータベースに基づいた統計モデルを作成する。
ここで使用するトレーニングセットはFaceWarehouseプロジェクトによって提供されているobjファイル形式の3Dメッシュである。 FaceWarehouseの詳細はこちら→FaceWarehouse: a 3D Facial Expression Database for Visual Computing

中略(統計モデルを求める計算方法)

平均顔

統計モデル

画像のように、得られたモデルは、平均顔と比べてやや平坦である。これはトレーニングセット内の顔の大多数が多少平坦なためである。本プロジェクトでは、様々なタイプの顔の取得を考慮したモデルが必要なため、データベース内のサンプルの共分散を検討した。

今後
今回のモデルでは面の頂点のみを使用したが、テクスチャ座標も考慮する必要がある。残念ながら、データベースはまだ色についての情報を提供していない。 データが利用可能になったら、色も考慮したモデルを作成する必要がある 。
統計モデルが完成したら、3Dのレジストレーションアルゴリズムを表情のテストサンプルモデルに適用する必要がある。

ダメだ、統計が絡むとちゃんと理解できない…

関連記事

顔追跡による擬似3D表示『Dynamic Perspective』

MVStudio:オープンソースのPhotogrammetryツール

Mask R-CNN:ディープラーニングによる一般物体検出・Instance Segmentatio...

Pix2Pix:CGANによる画像変換

UnityでPoint Cloudを表示する方法

書籍『3次元コンピュータビジョン計算ハンドブック』を購入

PCA (主成分分析)

TensorFlowでCGを微分できる『TensorFlow Graphics』

コンピュータビジョンの技術マップ

OpenCV 3.1とopencv_contribモジュールをVisual Studio 2015で...

OpenCVで顔のモーフィングを実装する

OpenCV 3.3.0 contribのsfmモジュールのサンプルを動かしてみる

機械学習について最近知った情報

UnrealCV:コンピュータビジョン研究のためのUnreal Engineプラグイン

Structure from Motion (多視点画像からの3次元形状復元)

Theia:オープンソースのStructure from Motionライブラリ

オープンソースのロボットアプリケーションフレームワーク『ROS (Robot Operating S...

SSD (Single Shot Multibox Detector):ディープラーニングによる一般...

OpenCVのfindEssentialMat関数を使ったサンプルを読んでみる

CGのためのディープラーニング

Caffe:読みやすくて高速なディープラーニングのフレームワーク

hloc:SuperGlueで精度を向上させたSfM・Visual Localization

OpenMVS:Multi-View Stereoによる3次元復元ライブラリ

DUSt3R:3Dコンピュータービジョンの基盤モデル

Kinect for Windows v2の日本価格決定

書籍『OpenCV 3 プログラミングブック』を購入

Googleが画像解析旅行ガイドアプリのJetpac社を買収

TensorSpace.js:ニューラルネットワークの構造を可視化するフレームワーク

続・ディープラーニングの資料

OpenGVの用語

ArUco:OpenCVベースのコンパクトなARライブラリ

openMVG:複数視点画像から3次元形状を復元するライブラリ

SSII 2014 デモンストレーションセッションのダイジェスト動画

Rerun:マルチモーダルデータの可視化アプリとSDK

画像生成AI Stable Diffusionで遊ぶ

CycleGAN:ドメイン関係を学習した画像変換

3D復元技術の情報リンク集

AfterEffectsプラグイン開発

Adobe MAX 2015

3Dスキャンに基づくプロシージャルフェイシャルアニメーション

ポイントクラウドコンソーシアム

OpenCV 3.3.0-RCでsfmモジュールをビルド

コメント