オープンソースの顔の動作解析ツールキット『OpenFace』

カーネギーメロン大学が開発している、顔画像から個人を識別するフレームワークOpenFaceと同じ名前で混乱しますが、



ケンブリッジ大学 Multicomp groupが開発しているOpenFaceという全く別のツールキットがあります。こちらは、顔検出、ランドマーク検出、頭の姿勢推定、表情変化の認識、視線推定などをリアルタイムに行うもの。
Copyright.txtによると、アカデミックまたは非商用に限り利用可能だそうです。商用利用は不可。

OpenFace: an open source facial behavior analysis toolkit

OpenFace


OpenFaceは、コンピュータビジョン・機械学習の研究者、情緒的コンピューティングのコミュニティ、顔の動作・表情の変化を用いたインタラクティブなアプリケーションの開発者を対象としたツールです。

OpenFaceは、顔のランドマーク検出、頭の姿勢推定、顔のAction Unitの認識、視線推定が可能な最初のツールキットです。OpenFaceのコアとなるコンピュータビジョンアルゴリズムは、上記のタスクすべてでstate-of-the-artな結果を示しています。

さらに、OpenFaceはリアルタイムに動作し、普通のウェブカメラで実行できます。特別なハードウェアは必要ありません。

Dockerfileもありますね。

公式Wikiはこちら↓
https://github.com/TadasBaltrusaitis/OpenFace/wiki

このツールキットの前身はCLM-framework(Cambridge face tracker)というフレームワークだったようです。↓
https://github.com/TadasBaltrusaitis/CLM-framework

YouTubeで公開されているデモ動画もCLM-framework時代のもの。





顔のAction Unitって概念、そういえばKinect SDKの顔認識機能でもあったな。FACS(Facial Action Coding System)の考えがベースだろうか。

関連記事

OpenVDB:3Dボリュームデータ処理ライブラリ

Netron:機械学習モデルを可視化するツール

フォトンの放射から格納までを可視化した動画

OpenCVでカメラ画像から自己位置認識 (Visual Odometry)

iPhone・iPod touchで動作する知育ロボット『ROMO』

Rerun:マルチモーダルデータの可視化アプリとSDK

網元AMIで作ったWordpressサイトのインスタンスをt1microからt2microへ移行した

Adobeの手振れ補正機能『ワープスタビライザー』の秘密

FCN (Fully Convolutional Network):ディープラーニングによるSema...

今年もSSII

OpenCVのfindEssentialMat関数を使ったサンプルを読んでみる

Verilog HDL

JavaScriptとかWebGLとかCanvasとか

Deep Learningとその他の機械学習手法の性能比較

Math.NET Numerics:Unityで使える数値計算ライブラリ

オープンソースハードウェア Arduino (アルドゥイーノ)

OpenCVでPhotoshopのプラグイン開発

OpenGV:画像からカメラの3次元位置・姿勢を推定するライブラリ

CLO:服飾デザインツール

MFnMeshクラスのsplit関数

LuxCoreRender:オープンソースの物理ベースレンダラ

Mean Stack開発の最初の一歩

NumSharp:C#で使えるNumPyライクな数値計算ライブラリ

Raspberry PiでIoTごっこ

ROSでガンダムを動かす

Dlib:C++の機械学習ライブラリ

Amazon Web ServicesでWordPress

Unity ARKitプラグインサンプルのドキュメントを読む

Webサイトのワイヤーフレームが作成できるオンラインツール

オープンソースの物理ベースGIレンダラ『appleseed』

ニューラルネットワークで画像分類

AndroidもopenGLも初心者さ (でもJavaは知ってるよ)

geometry3Sharp:Unity C#で使えるポリゴン操作ライブラリ

Unityの各コンポーネント間でのやり取り

チャットツール用bot開発フレームワーク『Hubot』

3DCG Meetup #4に行ってきた

python-twitterで自分のお気に入りを取得する

VCG Library:C++のポリゴン操作ライブラリ

法線マップを用意してCanvas上でShadingするサンプル

OpenGVのライブラリ構成

機械学習について最近知った情報

viser:Pythonで使える3D可視化ライブラリ

コメント