オープンソースの顔の動作解析ツールキット『OpenFace』

カーネギーメロン大学が開発している、顔画像から個人を識別するフレームワークOpenFaceと同じ名前で混乱しますが、



ケンブリッジ大学 Multicomp groupが開発しているOpenFaceという全く別のツールキットがあります。こちらは、顔検出、ランドマーク検出、頭の姿勢推定、表情変化の認識、視線推定などをリアルタイムに行うもの。
Copyright.txtによると、アカデミックまたは非商用に限り利用可能だそうです。商用利用は不可。

OpenFace: an open source facial behavior analysis toolkit

OpenFace


OpenFaceは、コンピュータビジョン・機械学習の研究者、情緒的コンピューティングのコミュニティ、顔の動作・表情の変化を用いたインタラクティブなアプリケーションの開発者を対象としたツールです。

OpenFaceは、顔のランドマーク検出、頭の姿勢推定、顔のAction Unitの認識、視線推定が可能な最初のツールキットです。OpenFaceのコアとなるコンピュータビジョンアルゴリズムは、上記のタスクすべてでstate-of-the-artな結果を示しています。

さらに、OpenFaceはリアルタイムに動作し、普通のウェブカメラで実行できます。特別なハードウェアは必要ありません。

Dockerfileもありますね。

公式Wikiはこちら↓
https://github.com/TadasBaltrusaitis/OpenFace/wiki

このツールキットの前身はCLM-framework(Cambridge face tracker)というフレームワークだったようです。↓
https://github.com/TadasBaltrusaitis/CLM-framework

YouTubeで公開されているデモ動画もCLM-framework時代のもの。





顔のAction Unitって概念、そういえばKinect SDKの顔認識機能でもあったな。FACS(Facial Action Coding System)の考えがベースだろうか。

関連記事

C++の抽象クラス

U-Net:ディープラーニングによるSemantic Seg...

ZBrushで作った3Dモデルを立体視で確認できるVRアプリ...

Unity Scriptコーディング→Unreal Engi...

WordPress on Google App Engine...

FacebookがDeep learningツールの一部をオ...

ドラマ『ファーストクラス』のモーショングラフィックス

Python.NET:Pythonと.NETを連携させるパッ...

PCA (主成分分析)

プログラムによる景観の自動生成

UnityのAR FoundationでARKit 3

RefineNet (Multi-Path Refineme...

UnityでShaderの入力パラメータとして行列を渡す

WordPressプラグインによるサイトマップの自動生成

Multi-View Environment:複数画像から3...

OpenCV

Open Shading Language (OSL)

ミニ四駆を改造してBluetoothラジコン化する

Windows10でPyTorchをインストールしてVSCo...

html5のcanvasの可能性

UnityのGameObjectの向きをScriptで制御す...

Raspberry PiでIoTごっこ

手を動かしながら学ぶデータマイニング

OpenCVでiPhone6sのカメラをキャリブレーションす...

MPFB2:Blenderの人体モデリングアドオン

UnrealCV:コンピュータビジョン研究のためのUnrea...

pythonの機械学習ライブラリ『scikit-learn』

Python2とPython3

写真から3Dメッシュの生成・編集ができる無料ツール『Auto...

Mayaのシェーディングノードの区分

clearcoat Shader

MFnDataとMFnAttribute

Photogrammetry (写真測量法)

Gource:バージョン管理の履歴を可視化するツール

iPadをハンディ3Dスキャナにするガジェット『iSense...

GoB:ZBrushとBlenderを連携させるアドオン

RSSフィードを読込んで表示するWordpressプラグイン...

HD画質の無駄遣い その2

OpenVDB:3Dボリュームデータ処理ライブラリ

Webサイトのワイヤーフレームが作成できるオンラインツール

ブログの復旧が難航してた話

東京オリンピックと案内表示

コメント