Point Cloud LibraryのBlog見てたら面白そうなの見つけた。
Statistical Face Model ( First phase )
イントロダクション
このプロジェクトのゴールは、RGB-Dカメラでキャプチャした顔の表情によって、スキャンモデルの顔の表情を変化させるプログラムを実装することである。
まず、顔のトレーニングデータベースに基づいた統計モデルを作成する。
ここで使用するトレーニングセットはFaceWarehouseプロジェクトによって提供されているobjファイル形式の3Dメッシュである。 FaceWarehouseの詳細はこちら→FaceWarehouse: a 3D Facial Expression Database for Visual Computing
中略(統計モデルを求める計算方法)平均顔
統計モデル
画像のように、得られたモデルは、平均顔と比べてやや平坦である。これはトレーニングセット内の顔の大多数が多少平坦なためである。本プロジェクトでは、様々なタイプの顔の取得を考慮したモデルが必要なため、データベース内のサンプルの共分散を検討した。
今後
今回のモデルでは面の頂点のみを使用したが、テクスチャ座標も考慮する必要がある。残念ながら、データベースはまだ色についての情報を提供していない。 データが利用可能になったら、色も考慮したモデルを作成する必要がある 。
統計モデルが完成したら、3Dのレジストレーションアルゴリズムを表情のテストサンプルモデルに適用する必要がある。
ダメだ、統計が絡むとちゃんと理解できない…
関連記事
PyTorch3D：3Dコンピュータービジョンライブラリ
SSII2014 チュートリアル講演会の資料
UnrealCV：コンピュータビジョン研究のためのUnrea...
OpenCV 3.1から追加されたSfMモジュール
Open3D：3Dデータ処理ライブラリ
3Dスキャンに基づくプロシージャルフェイシャルアニメーション
CycleGAN：ドメイン関係を学習した画像変換
PGGAN：段階的に解像度を上げて学習を進めるGAN
Kubric：機械学習用アノテーション付き動画生成パイプライ...
Composition Rendering：Blenderに...
VGGT：マルチビュー・フィードフォワード型3Dビジョン基盤...
Autodesk Mementoでゴジラを3次元復元する
OpenGVの用語
Pix2Pix：CGANによる画像変換
Qlone：スマホのカメラで3Dスキャンできるアプリ
DUSt3R：3Dコンピュータービジョンの基盤モデル
OpenCVのfindEssentialMat関数を使ったサ...
TeleSculptor：空撮動画からPhotogramme...
第1回 3D勉強会＠関東『SLAMチュートリアル大会』
Accord.NET Framework：C#で使える機械学...
ニューラルネットワークで画像分類
「ベンジャミン·バトン数奇な人生」でどうやってCGの顔を作っ...
OpenCVの超解像(SuperResolution)モジュ...
Google製オープンソース機械学習ライブラリ『Tensor...
viser：Pythonで使える3D可視化ライブラリ
Cartographer：オープンソースのSLAMライブラリ
ニューラルネットワークと深層学習
写真から3Dメッシュの生成・編集ができる無料ツール『Auto...
Paul Debevec
オープンソースの顔の動作解析ツールキット『OpenFace』
TensorFlowでCGを微分できる『TensorFlow...
OpenCV 3.3.0-RCでsfmモジュールをビルド
Alice Vision：オープンソースのPhotogram...
オープンソースのロボットアプリケーションフレームワーク『RO...
顔追跡による擬似3D表示『Dynamic Perspecti...
Regard3D：オープンソースのStructure fro...
hloc：SuperGlueで精度を向上させたSfM・Vis...
cvui：OpenCVのための軽量GUIライブラリ
PCA (主成分分析)
Rerun：マルチモーダルデータの可視化アプリとSDK
OpenCVで顔のランドマークを検出する『Facemark ...
Active Appearance Models（AAM）
コメント