オープンソースの顔の動作解析ツールキット『OpenFace』

カーネギーメロン大学が開発している、顔画像から個人を識別するフレームワークOpenFaceと同じ名前で混乱しますが、



ケンブリッジ大学 Multicomp groupが開発しているOpenFaceという全く別のツールキットがあります。こちらは、顔検出、ランドマーク検出、頭の姿勢推定、表情変化の認識、視線推定などをリアルタイムに行うもの。
Copyright.txtによると、アカデミックまたは非商用に限り利用可能だそうです。商用利用は不可。

OpenFace: an open source facial behavior analysis toolkit

OpenFace


OpenFaceは、コンピュータビジョン・機械学習の研究者、情緒的コンピューティングのコミュニティ、顔の動作・表情の変化を用いたインタラクティブなアプリケーションの開発者を対象としたツールです。

OpenFaceは、顔のランドマーク検出、頭の姿勢推定、顔のAction Unitの認識、視線推定が可能な最初のツールキットです。OpenFaceのコアとなるコンピュータビジョンアルゴリズムは、上記のタスクすべてでstate-of-the-artな結果を示しています。

さらに、OpenFaceはリアルタイムに動作し、普通のウェブカメラで実行できます。特別なハードウェアは必要ありません。

Dockerfileもありますね。

公式Wikiはこちら↓
https://github.com/TadasBaltrusaitis/OpenFace/wiki

このツールキットの前身はCLM-framework(Cambridge face tracker)というフレームワークだったようです。↓
https://github.com/TadasBaltrusaitis/CLM-framework

YouTubeで公開されているデモ動画もCLM-framework時代のもの。





顔のAction Unitって概念、そういえばKinect SDKの顔認識機能でもあったな。FACS(Facial Action Coding System)の考えがベースだろうか。

関連記事

PythonでBlenderのAdd-on開発

UnrealCLR:Unreal Engineで.NET C...

ドットインストールのWordPress入門レッスン

Pylearn2:ディープラーニングに対応したPythonの...

MVStudio:オープンソースのPhotogrammetr...

WordPress on Google App Engine...

Leap MotionでMaya上のオブジェクトを操作できる...

書籍『ゼロから作るDeep Learning』で自分なりに学...

OpenCVで顔のモーフィングを実装する

ManimML:機械学習の概念を視覚的に説明するためのライブ...

OpenCVでiPhone6sのカメラをキャリブレーションす...

MeshLab:3Dオブジェクトの確認・変換に便利なフリーウ...

Deep Fluids:流体シミュレーションをディープラーニ...

Rerun:マルチモーダルデータの可視化アプリとSDK

OpenCV 3.1のsfmモジュールのビルド再び

GAN (Generative Adversarial Ne...

Point Cloud Consortiumのセミナー「3D...

Google Chromecast

スクラッチで既存のキャラクターを立体化したい

オープンソースハードウェア Arduino (アルドゥイーノ...

UnityでShaderの入力パラメータとして行列を渡す

UnityのuGUIチュートリアル

Open Shading Language (OSL)

ROMOハッカソンに行ってきた

ミニ四駆を赤外線制御したりUnityと連携したり

網元AMIで作ったWordpressサイトのインスタンスをt...

SONY製のニューラルネットワークライブラリ『NNabla』

SSD (Single Shot Multibox Dete...

3D Gaussian Splatting:リアルタイム描画...

UnityのAR FoundationでARKit 3

iPhone x ロボットハッカソン~RomoのiPhone...

オーバーロードとオーバーライド

Raspberry PiでIoTごっこ

OpenCV3.3.0でsfmモジュールのビルドに成功!

Swark:コードからアーキテクチャ図を作成できるVSCod...

インターフェイスは世界を規定する

Twitter APIのPythonラッパー『python-...

UnityでARKit2.0

OpenMVS:Multi-View Stereoによる3次...

このブログのデザインに飽きてきた

PythonのHTML・XMLパーサー『BeautifulS...

AfterEffectsプラグイン開発

コメント