オープンソースの顔の動作解析ツールキット『OpenFace』

カーネギーメロン大学が開発している、顔画像から個人を識別するフレームワークOpenFaceと同じ名前で混乱しますが、



ケンブリッジ大学 Multicomp groupが開発しているOpenFaceという全く別のツールキットがあります。こちらは、顔検出、ランドマーク検出、頭の姿勢推定、表情変化の認識、視線推定などをリアルタイムに行うもの。
Copyright.txtによると、アカデミックまたは非商用に限り利用可能だそうです。商用利用は不可。

OpenFace: an open source facial behavior analysis toolkit

OpenFace


OpenFaceは、コンピュータビジョン・機械学習の研究者、情緒的コンピューティングのコミュニティ、顔の動作・表情の変化を用いたインタラクティブなアプリケーションの開発者を対象としたツールです。

OpenFaceは、顔のランドマーク検出、頭の姿勢推定、顔のAction Unitの認識、視線推定が可能な最初のツールキットです。OpenFaceのコアとなるコンピュータビジョンアルゴリズムは、上記のタスクすべてでstate-of-the-artな結果を示しています。

さらに、OpenFaceはリアルタイムに動作し、普通のウェブカメラで実行できます。特別なハードウェアは必要ありません。

Dockerfileもありますね。

公式Wikiはこちら↓
https://github.com/TadasBaltrusaitis/OpenFace/wiki

このツールキットの前身はCLM-framework(Cambridge face tracker)というフレームワークだったようです。↓
https://github.com/TadasBaltrusaitis/CLM-framework

YouTubeで公開されているデモ動画もCLM-framework時代のもの。





顔のAction Unitって概念、そういえばKinect SDKの顔認識機能でもあったな。FACS(Facial Action Coding System)の考えがベースだろうか。

関連記事

Kinect for Windows v2の日本価格決定

Raspberry Piでセンサーの常時稼働を検討する

続・ディープラーニングの資料

Manim:Pythonで使える数学アニメーションライブラリ

3D復元技術の情報リンク集

フィーリングに基づくタマムシの質感表現

C#で使える遺伝的アルゴリズムライブラリ『GeneticSh...

PSPNet (Pyramid Scene Parsing ...

Googleが画像解析旅行ガイドアプリのJetpac社を買収

UnityでOpenCVを使うには?

GoogleのDeep Learning論文

Raspberry PiのGPIOを操作するPythonライ...

オープンソースの人体モデリングツール『MakeHuman』の...

Point Cloud Consortiumのセミナー「3D...

オープンソースの物理ベースレンダラ『Mitsuba』をMay...

fSpy:1枚の写真からカメラパラメーターを割り出すツール

Unityの各コンポーネント間でのやり取り

疑似3D写真が撮れるiPhoneアプリ『Seene』がアップ...

WebGL開発に関する情報が充実してきている

OpenAR:OpenCVベースのマーカーARライブラリ

Unityの薄い本

Python.NET:Pythonと.NETを連携させるパッ...

Kubric:機械学習用アノテーション付き動画生成パイプライ...

Unityで学ぶC#

geometry3Sharp:Unity C#で使えるポリゴ...

法線マップを用意してCanvas上でShadingするサンプ...

CGレンダラ研究開発のためのフレームワーク『Lightmet...

Google製オープンソース機械学習ライブラリ『Tensor...

OpenCVの顔検出過程を可視化した動画

BlenderProc:Blenderで機械学習用の画像デー...

顔検出・認識のAPI・ライブラリ・ソフトウェアのリスト

機械学習に役立つPythonライブラリ一覧

書籍『ゼロから作るDeep Learning』で自分なりに学...

Google App Engine上のWordPressでF...

iOSデバイスと接続して連携するガジェットの開発方法

Faster R-CNN:ディープラーニングによる一般物体検...

Multi-View Environment:複数画像から3...

OpenCV 3.1から追加されたSfMモジュール

CycleGAN:ドメイン関係を学習した画像変換

MVStudio:オープンソースのPhotogrammetr...

hloc:SuperGlueで精度を向上させたSfM・Vis...

Unity Scriptコーディング→Unreal Engi...

コメント