オープンソースの顔の動作解析ツールキット『OpenFace』

カーネギーメロン大学が開発している、顔画像から個人を識別するフレームワークOpenFaceと同じ名前で混乱しますが、



ケンブリッジ大学 Multicomp groupが開発しているOpenFaceという全く別のツールキットがあります。こちらは、顔検出、ランドマーク検出、頭の姿勢推定、表情変化の認識、視線推定などをリアルタイムに行うもの。
Copyright.txtによると、アカデミックまたは非商用に限り利用可能だそうです。商用利用は不可。

OpenFace: an open source facial behavior analysis toolkit

OpenFace


OpenFaceは、コンピュータビジョン・機械学習の研究者、情緒的コンピューティングのコミュニティ、顔の動作・表情の変化を用いたインタラクティブなアプリケーションの開発者を対象としたツールです。

OpenFaceは、顔のランドマーク検出、頭の姿勢推定、顔のAction Unitの認識、視線推定が可能な最初のツールキットです。OpenFaceのコアとなるコンピュータビジョンアルゴリズムは、上記のタスクすべてでstate-of-the-artな結果を示しています。

さらに、OpenFaceはリアルタイムに動作し、普通のウェブカメラで実行できます。特別なハードウェアは必要ありません。

Dockerfileもありますね。

公式Wikiはこちら↓
https://github.com/TadasBaltrusaitis/OpenFace/wiki

このツールキットの前身はCLM-framework(Cambridge face tracker)というフレームワークだったようです。↓
https://github.com/TadasBaltrusaitis/CLM-framework

YouTubeで公開されているデモ動画もCLM-framework時代のもの。





顔のAction Unitって概念、そういえばKinect SDKの顔認識機能でもあったな。FACS(Facial Action Coding System)の考えがベースだろうか。

関連記事

iPhoneアプリ開発 Xcode 5のお作法

まだ続くブログの不調

続・ディープラーニングの資料

法線マップを用意してCanvas上でShadingするサンプ...

粘土をこねるようなスカルプトモデリング

Qlone:スマホのカメラで3Dスキャンできるアプリ

OpenCV バージョン4がリリースされた!

Google Colaboratoryで遊ぶ準備

Google製オープンソース機械学習ライブラリ『Tensor...

OpenCV3.3.0でsfmモジュールのビルドに成功!

書籍『データビジュアライゼーションのデザインパターン20』読...

コンピュータビジョンの技術マップ

AmazonEC2のインスタンスをt1.microからt2....

定数

OpenFace:Deep Neural Networkによ...

クラスの基本

自前Shaderの件 解決しました

フォトンの放射から格納までを可視化した動画

PythonでMayaのShapeノードプラグインを作る

統計的な顔モデル

Multi-View Environment:複数画像から3...

Javaで作られたオープンソースの3DCGレンダラ『Sunf...

html5のcanvasの可能性

UnityユーザーがUnreal Engineの使い方を学ぶ...

Faceshiftで表情をキャプチャしてBlender上でM...

SDカードサイズのコンピューター『Intel Edison』

手を動かしながら学ぶデータマイニング

立体視を試してみた

UnityのMonoBehaviourクラスをシングルトン化...

CGレンダラ研究開発のためのフレームワーク『Lightmet...

Gource:バージョン管理の履歴を可視化するツール

Netron:機械学習モデルを可視化するツール

WordPress on Windows Azure

OpenCV 3.1のsfmモジュールを試す

DensePose:画像中の人物表面のUV座標を推定する

MB-Lab:Blenderの人体モデリングアドオン

konashiのサンプルコードを動かしてみた

ZScript

「ベンジャミン·バトン数奇な人生」でどうやってCGの顔を作っ...

科学技術計算向けスクリプト言語『Julia』

UnityでShaderの入力パラメータとして行列を渡す

MLDemos:機械学習について理解するための可視化ツール

コメント