オープンソースの顔の動作解析ツールキット『OpenFace』

カーネギーメロン大学が開発している、顔画像から個人を識別するフレームワークOpenFaceと同じ名前で混乱しますが、



ケンブリッジ大学 Multicomp groupが開発しているOpenFaceという全く別のツールキットがあります。こちらは、顔検出、ランドマーク検出、頭の姿勢推定、表情変化の認識、視線推定などをリアルタイムに行うもの。
Copyright.txtによると、アカデミックまたは非商用に限り利用可能だそうです。商用利用は不可。

OpenFace: an open source facial behavior analysis toolkit

OpenFace


OpenFaceは、コンピュータビジョン・機械学習の研究者、情緒的コンピューティングのコミュニティ、顔の動作・表情の変化を用いたインタラクティブなアプリケーションの開発者を対象としたツールです。

OpenFaceは、顔のランドマーク検出、頭の姿勢推定、顔のAction Unitの認識、視線推定が可能な最初のツールキットです。OpenFaceのコアとなるコンピュータビジョンアルゴリズムは、上記のタスクすべてでstate-of-the-artな結果を示しています。

さらに、OpenFaceはリアルタイムに動作し、普通のウェブカメラで実行できます。特別なハードウェアは必要ありません。

Dockerfileもありますね。

公式Wikiはこちら↓
https://github.com/TadasBaltrusaitis/OpenFace/wiki

このツールキットの前身はCLM-framework(Cambridge face tracker)というフレームワークだったようです。↓
https://github.com/TadasBaltrusaitis/CLM-framework

YouTubeで公開されているデモ動画もCLM-framework時代のもの。





顔のAction Unitって概念、そういえばKinect SDKの顔認識機能でもあったな。FACS(Facial Action Coding System)の考えがベースだろうか。

関連記事

UnityでLight Shaftを表現する

COLMAP:オープンソースのSfM・MVSツール

Geogram:C++の3D幾何アルゴリズムライブラリ

IronPythonを使ってUnity上でPythonのコー...

BlenderでPhotogrammetryできるアドオン

SSII 2014 デモンストレーションセッションのダイジェ...

このブログのデザインに飽きてきた

Unityで学ぶC#

PyTorch3D:3Dコンピュータービジョンライブラリ

TensorFlowでCGを微分できる『TensorFlow...

フォトンの放射から格納までを可視化した動画

Unity MonoBehaviourクラスのオーバーライド...

HerokuでMEAN stack

Rerun:マルチモーダルデータの可視化アプリとSDK

NumSharp:C#で使えるNumPyライクな数値計算ライ...

シフトカーを改造してラジコン化する人達

OpenCVのfindEssentialMat関数を使ったサ...

Arduinoで人感センサーを使う

マルコフ連鎖モンテカルロ法

Google App Engine上のWordPressでF...

3Dグラフィックスの入門書

OpenSfM:PythonのStructure from ...

WordPress on Google App Engine...

RefineNet (Multi-Path Refineme...

MythTV:Linuxでテレビの視聴・録画ができるオープン...

Swark:コードからアーキテクチャ図を作成できるVSCod...

ミニ四駆で電子工作

cvui:OpenCVのための軽量GUIライブラリ

Unityの各コンポーネント間でのやり取り

WordPressの表示を高速化する

Python2とPython3

頭蓋骨からの顔復元と進化過程の可視化

オープンソースのロボットアプリケーションフレームワーク『RO...

konashiのサンプルコードを動かしてみた

海外ドラマのChromaKey

オープンソースハードウェア Arduino (アルドゥイーノ...

Faster R-CNN:ディープラーニングによる一般物体検...

Manim:Pythonで使える数学アニメーションライブラリ

ZScript

立体視を試してみた

Dlib:C++の機械学習ライブラリ

AnacondaとTensorFlowをインストールしてVi...

コメント