統計的な顔モデル

Point Cloud LibraryのBlog見てたら面白そうなの見つけた。

Statistical Face Model ( First phase )

イントロダクション
このプロジェクトのゴールは、RGB-Dカメラでキャプチャした顔の表情によって、スキャンモデルの顔の表情を変化させるプログラムを実装することである。
まず、顔のトレーニングデータベースに基づいた統計モデルを作成する。
ここで使用するトレーニングセットはFaceWarehouseプロジェクトによって提供されているobjファイル形式の3Dメッシュである。 FaceWarehouseの詳細はこちら→FaceWarehouse: a 3D Facial Expression Database for Visual Computing

中略(統計モデルを求める計算方法)

平均顔

統計モデル

画像のように、得られたモデルは、平均顔と比べてやや平坦である。これはトレーニングセット内の顔の大多数が多少平坦なためである。本プロジェクトでは、様々なタイプの顔の取得を考慮したモデルが必要なため、データベース内のサンプルの共分散を検討した。

今後
今回のモデルでは面の頂点のみを使用したが、テクスチャ座標も考慮する必要がある。残念ながら、データベースはまだ色についての情報を提供していない。 データが利用可能になったら、色も考慮したモデルを作成する必要がある 。
統計モデルが完成したら、3Dのレジストレーションアルゴリズムを表情のテストサンプルモデルに適用する必要がある。

ダメだ、統計が絡むとちゃんと理解できない…

関連記事

Polyscope:3Dデータ操作用GUIライブラリ

DCGAN (Deep Convolutional GAN):畳み込みニューラルネットワークによる敵...

SSII2014 チュートリアル講演会の資料

Rerun:マルチモーダルデータの可視化アプリとSDK

3D Gaussian Splatting:リアルタイム描画できるRadiance Fields

AfterEffectsプラグイン開発

ポイントクラウドコンソーシアム

Live CV:インタラクティブにComputer Visionコーディングができるツール

U-Net:ディープラーニングによるSemantic Segmentation手法

OpenCV バージョン4がリリースされた!

R-CNN (Regions with CNN features):ディープラーニングによる一般物体...

TeleSculptor:空撮動画からPhotogrammetryするツール

Alice Vision:オープンソースのPhotogrammetryフレームワーク

スクラッチで既存のキャラクターを立体化したい

Autodesk Mementoでゴジラを3次元復元する

Multi-View Environment:複数画像から3次元形状を再構築するライブラリ

MeshroomでPhotogrammetry

GoogleのDeep Learning論文

Open3D:3Dデータ処理ライブラリ

iPadをハンディ3Dスキャナにするガジェット『iSense 3D Scanner』

OpenCVで動画の手ぶれ補正

openMVG:複数視点画像から3次元形状を復元するライブラリ

Fast R-CNN:ディープラーニングによる一般物体検出手法

「ベンジャミン·バトン数奇な人生」でどうやってCGの顔を作ったのか

SSII 2014 デモンストレーションセッションのダイジェスト動画

ベイズ推定とグラフィカルモデル

Google製オープンソース機械学習ライブラリ『TensorFlow』のWindows版が公開された

OpenCVの顔検出過程を可視化した動画

Faceshiftで表情をキャプチャしてBlender上でMakeHumanのメッシュを動かすデモ

Qlone:スマホのカメラで3Dスキャンできるアプリ

Blendify:コンピュータービジョン向けBlenderラッパー

PCA (主成分分析)

OpenCVのバージョン3が正式リリースされたぞ

OpenGV:画像からカメラの3次元位置・姿勢を推定するライブラリ

オープンソースの顔の動作解析ツールキット『OpenFace』

Super Resolution:OpenCVの超解像処理モジュール

Cartographer:オープンソースのSLAMライブラリ

OpenGVのライブラリ構成

YOLO (You Only Look Once):ディープラーニングによる一般物体検出手法

TensorSpace.js:ニューラルネットワークの構造を可視化するフレームワーク

書籍『イラストで学ぶ ディープラーニング』

Point Cloud Consortiumのセミナー「3D点群の未来」に行ってきたよ

コメント