オープンソースの顔の動作解析ツールキット『OpenFace』

カーネギーメロン大学が開発している、顔画像から個人を識別するフレームワークOpenFaceと同じ名前で混乱しますが、



ケンブリッジ大学 Multicomp groupが開発しているOpenFaceという全く別のツールキットがあります。こちらは、顔検出、ランドマーク検出、頭の姿勢推定、表情変化の認識、視線推定などをリアルタイムに行うもの。
Copyright.txtによると、アカデミックまたは非商用に限り利用可能だそうです。商用利用は不可。

OpenFace: an open source facial behavior analysis toolkit

OpenFace


OpenFaceは、コンピュータビジョン・機械学習の研究者、情緒的コンピューティングのコミュニティ、顔の動作・表情の変化を用いたインタラクティブなアプリケーションの開発者を対象としたツールです。

OpenFaceは、顔のランドマーク検出、頭の姿勢推定、顔のAction Unitの認識、視線推定が可能な最初のツールキットです。OpenFaceのコアとなるコンピュータビジョンアルゴリズムは、上記のタスクすべてでstate-of-the-artな結果を示しています。

さらに、OpenFaceはリアルタイムに動作し、普通のウェブカメラで実行できます。特別なハードウェアは必要ありません。

Dockerfileもありますね。

公式Wikiはこちら↓
https://github.com/TadasBaltrusaitis/OpenFace/wiki

このツールキットの前身はCLM-framework(Cambridge face tracker)というフレームワークだったようです。↓
https://github.com/TadasBaltrusaitis/CLM-framework

YouTubeで公開されているデモ動画もCLM-framework時代のもの。





顔のAction Unitって概念、そういえばKinect SDKの顔認識機能でもあったな。FACS(Facial Action Coding System)の考えがベースだろうか。

関連記事

WebGL開発に関する情報が充実してきている

Faceshiftで表情をキャプチャしてBlender上でM...

写真から3Dメッシュの生成・編集ができる無料ツール『Auto...

Gource:バージョン管理の履歴を可視化するツール

CGのためのディープラーニング

OpenCV3.3.0でsfmモジュールのビルドに成功!

科学技術計算向けスクリプト言語『Julia』

bpy-renderer:レンダリング用Pythonパッケー...

自前のShaderがおかしい件

Model View Controller

写真に3Dオブジェクトを違和感無く合成する『3DPhotoM...

PSPNet (Pyramid Scene Parsing ...

インターフェイスは世界を規定する

PCA (主成分分析)

顔追跡による擬似3D表示『Dynamic Perspecti...

TorchStudio:PyTorchのための統合開発環境と...

自前Shaderの件 解決しました

仮想関数

Google App Engine上のWordPressでA...

Google Colaboratoryで遊ぶ準備

OpenCVで動画の手ぶれ補正

Composition Rendering:Blenderに...

clearcoat Shader

オープンソースハードウェア Arduino (アルドゥイーノ...

海外ドラマのChromaKey

OpenCV 3.3.0-RCでsfmモジュールをビルド

書籍『データビジュアライゼーションのデザインパターン20』読...

Structure from Motion (多視点画像から...

Theia:オープンソースのStructure from M...

Qlone:スマホのカメラで3Dスキャンできるアプリ

Geogram:C++の3D幾何アルゴリズムライブラリ

OpenCV バージョン4がリリースされた!

Swark:コードからアーキテクチャ図を作成できるVSCod...

UnityプロジェクトをGitHubで管理する

機械学習について最近知った情報

Manim:Pythonで使える数学アニメーションライブラリ

WordPressのテーマを自作する

OpenCV 3.1のsfmモジュールのビルド再び

WinSCP

CNN Explainer:畳み込みニューラルネットワーク可...

html5のcanvasの可能性

Unityで学ぶC#

コメント