オープンソースの顔の動作解析ツールキット『OpenFace』

カーネギーメロン大学が開発している、顔画像から個人を識別するフレームワークOpenFaceと同じ名前で混乱しますが、



ケンブリッジ大学 Multicomp groupが開発しているOpenFaceという全く別のツールキットがあります。こちらは、顔検出、ランドマーク検出、頭の姿勢推定、表情変化の認識、視線推定などをリアルタイムに行うもの。
Copyright.txtによると、アカデミックまたは非商用に限り利用可能だそうです。商用利用は不可。

OpenFace: an open source facial behavior analysis toolkit

OpenFace


OpenFaceは、コンピュータビジョン・機械学習の研究者、情緒的コンピューティングのコミュニティ、顔の動作・表情の変化を用いたインタラクティブなアプリケーションの開発者を対象としたツールです。

OpenFaceは、顔のランドマーク検出、頭の姿勢推定、顔のAction Unitの認識、視線推定が可能な最初のツールキットです。OpenFaceのコアとなるコンピュータビジョンアルゴリズムは、上記のタスクすべてでstate-of-the-artな結果を示しています。

さらに、OpenFaceはリアルタイムに動作し、普通のウェブカメラで実行できます。特別なハードウェアは必要ありません。

Dockerfileもありますね。

公式Wikiはこちら↓
https://github.com/TadasBaltrusaitis/OpenFace/wiki

このツールキットの前身はCLM-framework(Cambridge face tracker)というフレームワークだったようです。↓
https://github.com/TadasBaltrusaitis/CLM-framework

YouTubeで公開されているデモ動画もCLM-framework時代のもの。





顔のAction Unitって概念、そういえばKinect SDKの顔認識機能でもあったな。FACS(Facial Action Coding System)の考えがベースだろうか。

関連記事

PythonのHTML・XMLパーサー『BeautifulS...

頭蓋骨からの顔復元と進化過程の可視化

Python.NET:Pythonと.NETを連携させるパッ...

Arduinoで作るダンボーみたいなロボット『ピッコロボ』

Raspberry Pi

NeRF (Neural Radiance Fields):...

SSII2014 チュートリアル講演会の資料

Unityで学ぶC#

オープンソースのIT資産・ライセンス管理システム『Snipe...

手を動かしながら学ぶデータマイニング

Managing Software Requirements...

Googleが画像解析旅行ガイドアプリのJetpac社を買収

MPFB2:Blenderの人体モデリングアドオン

Active Appearance Models(AAM)

PSPNet (Pyramid Scene Parsing ...

3Dスキャンに基づくプロシージャルフェイシャルアニメーション

RSSフィードを読込んで表示するWordpressプラグイン...

Structure from Motion (多視点画像から...

Alice Vision:オープンソースのPhotogram...

BlenderのPython環境にPyTorchをインストー...

株式会社ヘキサドライブの研究室ページ

uGUI:Unityの新しいGUI作成システム

画像認識による位置情報取得 - Semi-Direct Mo...

ZBrushのZScript入門

ヒーローに変身なりきりアーケードゲーム『ナレルンダー』

AR (Augmented Reality)とDR (Dim...

ポリゴン用各種イテレータと関数セット

openMVG:複数視点画像から3次元形状を復元するライブラ...

geometry3Sharp:Unity C#で使えるポリゴ...

UnityユーザーがUnreal Engineの使い方を学ぶ...

konashiのサンプルコードを動かしてみた

BlenderでPhotogrammetryできるアドオン

Konashiを買った

viser:Pythonで使える3D可視化ライブラリ

SONYの自律型エンタテインメントロボット『aibo』

libigl:軽量なジオメトリ処理ライブラリ

書籍『ROSプログラミング』

Unity Scriptコーディング→Unreal Engi...

参考書

顔検出・認識のAPI・ライブラリ・ソフトウェアのリスト

UnityのTransformクラスについて調べてみた

Faster R-CNN:ディープラーニングによる一般物体検...

コメント