オープンソースの顔の動作解析ツールキット『OpenFace』

カーネギーメロン大学が開発している、顔画像から個人を識別するフレームワークOpenFaceと同じ名前で混乱しますが、



ケンブリッジ大学 Multicomp groupが開発しているOpenFaceという全く別のツールキットがあります。こちらは、顔検出、ランドマーク検出、頭の姿勢推定、表情変化の認識、視線推定などをリアルタイムに行うもの。
Copyright.txtによると、アカデミックまたは非商用に限り利用可能だそうです。商用利用は不可。

OpenFace: an open source facial behavior analysis toolkit

OpenFace


スポンサーリンク

OpenFaceは、コンピュータビジョン・機械学習の研究者、情緒的コンピューティングのコミュニティ、顔の動作・表情の変化を用いたインタラクティブなアプリケーションの開発者を対象としたツールです。

OpenFaceは、顔のランドマーク検出、頭の姿勢推定、顔のAction Unitの認識、視線推定が可能な最初のツールキットです。OpenFaceのコアとなるコンピュータビジョンアルゴリズムは、上記のタスクすべてでstate-of-the-artな結果を示しています。

さらに、OpenFaceはリアルタイムに動作し、普通のウェブカメラで実行できます。特別なハードウェアは必要ありません。


スポンサーリンク

Dockerfileもありますね。

公式Wikiはこちら↓
https://github.com/TadasBaltrusaitis/OpenFace/wiki

このツールキットの前身はCLM-framework(Cambridge face tracker)というフレームワークだったようです。↓
https://github.com/TadasBaltrusaitis/CLM-framework

YouTubeで公開されているデモ動画もCLM-framework時代のもの。





顔のAction Unitって概念、そういえばKinect SDKの顔認識機能でもあったな。FACS(Facial Action Coding System)の考えがベースだろうか。


スポンサーリンク

関連記事

Model View Controller
VCG Library:C++のポリゴン操作ライブラリ
1枚の画像からマテリアルを作成できる無料ツール『Materialize』
ブログのデザイン変えました
オープンソースの物理ベースレンダラ『Mitsuba』をMayaで使う
なんかすごいサイト
AR (Augmented Reality)とDR (Diminished Reality)
libigl:軽量なジオメトリ処理ライブラリ
Adobeの手振れ補正機能『ワープスタビライザー』の秘密
Faceshiftで表情をキャプチャしてBlender上でMakeHumanのメッシュを動かすデモ
Unity MonoBehaviourクラスのオーバーライド関数が呼び出される順番
定数
Dlib:C++の機械学習ライブラリ
Arduinoで人感センサーを使う
OpenCVでiPhone6sのカメラをキャリブレーションする
ディープラーニングに対応したPythonの機械学習ライブラリ『Pylearn2』
インタラクティブにComputer Visionコーディングができるツール『Live CV』
WordPressの表示を高速化する
Kinect for Windows v2の日本価格決定
OpenCVでカメラ画像から自己位置認識 (Visual Odometry)
YOLO (You Only Look Once):ディープラーニングによる一般物体検出手法
PythonでMayaのShapeノードプラグインを作る
「ベンジャミン·バトン数奇な人生」でどうやってCGの顔を作ったのか
OpenCVの超解像(SuperResolution)モジュールを試す
バージョン管理の履歴を可視化するツール『Gource』
書籍『ゼロから作るDeep Learning』で自分なりに学ぶ
COLMAP:オープンソースのSfM・MVSツール
Netron:機械学習モデルを可視化するツール
MFnMeshクラスのsplit関数
MFnDataとMFnAttribute
ヘッドマウントディスプレイとビジュアリゼーションの未来
C#で使える遺伝的アルゴリズムライブラリ『GeneticSharp』
3Dスキャンに基づくプロシージャルフェイシャルアニメーション
Google Colaboratoryで遊ぶ準備
オープンソースの物理ベースGIレンダラ『appleseed』
OpenVDB:3Dボリュームデータ処理ライブラリ
ドットインストールのWordPress入門レッスン
組み込み向けのWindows OS 『Windows Embedded』
AMIMOTO(PVM版)で作成したインスタンスをAMIMOTO (HVM版)へ移行する
NeRF (Neural Radiance Fields):機械学習による未知視点合成
池袋パルコで3Dのバーチャルフィッティング『ウェアラブル クロージング バイ アーバンリサーチ』
SSD (Single Shot Multibox Detector):ディープラーニングによる一般...

コメント