オープンソースの顔の動作解析ツールキット『OpenFace』

カーネギーメロン大学が開発している、顔画像から個人を識別するフレームワークOpenFaceと同じ名前で混乱しますが、



ケンブリッジ大学 Multicomp groupが開発しているOpenFaceという全く別のツールキットがあります。こちらは、顔検出、ランドマーク検出、頭の姿勢推定、表情変化の認識、視線推定などをリアルタイムに行うもの。
Copyright.txtによると、アカデミックまたは非商用に限り利用可能だそうです。商用利用は不可。

OpenFace: an open source facial behavior analysis toolkit

OpenFace


OpenFaceは、コンピュータビジョン・機械学習の研究者、情緒的コンピューティングのコミュニティ、顔の動作・表情の変化を用いたインタラクティブなアプリケーションの開発者を対象としたツールです。

OpenFaceは、顔のランドマーク検出、頭の姿勢推定、顔のAction Unitの認識、視線推定が可能な最初のツールキットです。OpenFaceのコアとなるコンピュータビジョンアルゴリズムは、上記のタスクすべてでstate-of-the-artな結果を示しています。

さらに、OpenFaceはリアルタイムに動作し、普通のウェブカメラで実行できます。特別なハードウェアは必要ありません。

Dockerfileもありますね。

公式Wikiはこちら↓
https://github.com/TadasBaltrusaitis/OpenFace/wiki

このツールキットの前身はCLM-framework(Cambridge face tracker)というフレームワークだったようです。↓
https://github.com/TadasBaltrusaitis/CLM-framework

YouTubeで公開されているデモ動画もCLM-framework時代のもの。





顔のAction Unitって概念、そういえばKinect SDKの顔認識機能でもあったな。FACS(Facial Action Coding System)の考えがベースだろうか。

関連記事

FacebookがDeep learningツールの一部をオ...

PSPNet (Pyramid Scene Parsing ...

スクラッチで既存のキャラクターを立体化したい

PCA (主成分分析)

Faceshiftで表情をキャプチャしてBlender上でM...

GeoGebra:無料で使える数学アプリ

Theia:オープンソースのStructure from M...

自前のShaderがおかしい件

Autodesk Mementoでゴジラを3次元復元する

CLO:服飾デザインツール

WordPressプラグインによるサイトマップの自動生成

Raspberry Pi 2を買いました

オープンソースの人体モデリングツール『MakeHuman』の...

池袋パルコで3Dのバーチャルフィッティング『ウェアラブル ク...

書籍『ゼロから作るDeep Learning』で自分なりに学...

PythonでMayaのShapeノードプラグインを作る

SONYの自律型エンタテインメントロボット『aibo』

DensePose:画像中の人物表面のUV座標を推定する

SSD (Single Shot Multibox Dete...

MRenderUtil::raytrace

ZBrushのZScript入門

OpenMVS:Multi-View Stereoによる3次...

OpenCVでカメラ画像から自己位置認識 (Visual O...

Blendify:コンピュータービジョン向けBlenderラ...

頭蓋骨からの顔復元と進化過程の可視化

WordPress on Windows Azure

MFnMeshクラスのsplit関数

KelpNet:C#で使える可読性重視のディープラーニングラ...

Qlone:スマホのカメラで3Dスキャンできるアプリ

写真に3Dオブジェクトを違和感無く合成する『3DPhotoM...

Regard3D:オープンソースのStructure fro...

Rerun:マルチモーダルデータの可視化アプリとSDK

Google App EngineでWordPress

Google XML Sitemap Generatorプラ...

Googleが画像解析旅行ガイドアプリのJetpac社を買収

Unity ARKitプラグインサンプルのドキュメントを読む

OpenCV 3.3.0 contribのsfmモジュールの...

PyTorch3D:3Dコンピュータービジョンライブラリ

WordPressの表示を高速化する

Google製オープンソース機械学習ライブラリ『Tensor...

YOLO (You Only Look Once):ディープ...

SVM (Support Vector Machine)

コメント