オープンソースの顔の動作解析ツールキット『OpenFace』

カーネギーメロン大学が開発している、顔画像から個人を識別するフレームワークOpenFaceと同じ名前で混乱しますが、



ケンブリッジ大学 Multicomp groupが開発しているOpenFaceという全く別のツールキットがあります。こちらは、顔検出、ランドマーク検出、頭の姿勢推定、表情変化の認識、視線推定などをリアルタイムに行うもの。
Copyright.txtによると、アカデミックまたは非商用に限り利用可能だそうです。商用利用は不可。

OpenFace: an open source facial behavior analysis toolkit

OpenFace


OpenFaceは、コンピュータビジョン・機械学習の研究者、情緒的コンピューティングのコミュニティ、顔の動作・表情の変化を用いたインタラクティブなアプリケーションの開発者を対象としたツールです。

OpenFaceは、顔のランドマーク検出、頭の姿勢推定、顔のAction Unitの認識、視線推定が可能な最初のツールキットです。OpenFaceのコアとなるコンピュータビジョンアルゴリズムは、上記のタスクすべてでstate-of-the-artな結果を示しています。

さらに、OpenFaceはリアルタイムに動作し、普通のウェブカメラで実行できます。特別なハードウェアは必要ありません。

Dockerfileもありますね。

公式Wikiはこちら↓
https://github.com/TadasBaltrusaitis/OpenFace/wiki

このツールキットの前身はCLM-framework(Cambridge face tracker)というフレームワークだったようです。↓
https://github.com/TadasBaltrusaitis/CLM-framework

YouTubeで公開されているデモ動画もCLM-framework時代のもの。





顔のAction Unitって概念、そういえばKinect SDKの顔認識機能でもあったな。FACS(Facial Action Coding System)の考えがベースだろうか。

関連記事

Unityで強化学習できる『Unity ML-Agents』

UnityプロジェクトをGitHubで管理する

Theia:オープンソースのStructure from M...

海外ドラマのChromaKey

OpenCV 3.3.0 contribのsfmモジュールの...

FreeMoCap Project:オープンソースのマーカー...

なんかすごいサイト

OpenCVでPhotoshopのプラグイン開発

OpenMVSのサンプルを動かしてみる

BlenderでPhotogrammetryできるアドオン

MPFB2:Blenderの人体モデリングアドオン

今年もSSII

UnityユーザーがUnreal Engineの使い方を学ぶ...

hloc:SuperGlueで精度を向上させたSfM・Vis...

UnityでShaderの入力パラメータとして行列を渡す

Leap MotionでMaya上のオブジェクトを操作できる...

trimesh:PythonでポリゴンMeshを扱うライブラ...

Polyscope:3Dデータ操作用GUIライブラリ

書籍『データビジュアライゼーションのデザインパターン20』読...

Pix2Pix:CGANによる画像変換

OpenCVの三角測量関数『cv::triangulatep...

池袋パルコで3Dのバーチャルフィッティング『ウェアラブル ク...

Human Generator:Blenderの人体生成アド...

ヘッドマウントディスプレイとビジュアリゼーションの未来

まだ続くブログの不調

Managing Software Requirements...

Python for Unity:UnityEditorでP...

手を動かしながら学ぶデータマイニング

OpenCV 3.1から追加されたSfMモジュール

WordPress on Windows Azure

UnityのTransformクラスについて調べてみた

Windows10でPyTorchをインストールしてVSCo...

Fast R-CNN:ディープラーニングによる一般物体検出手...

Google XML Sitemap Generatorプラ...

Pythonのソースコードに特化した検索エンジン『Nulle...

Unityで学ぶC#

NeuralNetwork.NET:.NETで使えるTens...

WordPressの表示を高速化する

Raspberry Pi 2のGPIOピン配置

Manim:Pythonで使える数学アニメーションライブラリ

C++始めようと思うんだ

機械学習で遊ぶ

コメント