オープンソースの顔の動作解析ツールキット『OpenFace』

カーネギーメロン大学が開発している、顔画像から個人を識別するフレームワークOpenFaceと同じ名前で混乱しますが、



ケンブリッジ大学 Multicomp groupが開発しているOpenFaceという全く別のツールキットがあります。こちらは、顔検出、ランドマーク検出、頭の姿勢推定、表情変化の認識、視線推定などをリアルタイムに行うもの。
Copyright.txtによると、アカデミックまたは非商用に限り利用可能だそうです。商用利用は不可。

OpenFace: an open source facial behavior analysis toolkit

OpenFace


OpenFaceは、コンピュータビジョン・機械学習の研究者、情緒的コンピューティングのコミュニティ、顔の動作・表情の変化を用いたインタラクティブなアプリケーションの開発者を対象としたツールです。

OpenFaceは、顔のランドマーク検出、頭の姿勢推定、顔のAction Unitの認識、視線推定が可能な最初のツールキットです。OpenFaceのコアとなるコンピュータビジョンアルゴリズムは、上記のタスクすべてでstate-of-the-artな結果を示しています。

さらに、OpenFaceはリアルタイムに動作し、普通のウェブカメラで実行できます。特別なハードウェアは必要ありません。

Dockerfileもありますね。

公式Wikiはこちら↓
https://github.com/TadasBaltrusaitis/OpenFace/wiki

このツールキットの前身はCLM-framework(Cambridge face tracker)というフレームワークだったようです。↓
https://github.com/TadasBaltrusaitis/CLM-framework

YouTubeで公開されているデモ動画もCLM-framework時代のもの。





顔のAction Unitって概念、そういえばKinect SDKの顔認識機能でもあったな。FACS(Facial Action Coding System)の考えがベースだろうか。

関連記事

Facebookの顔認証技術『DeepFace』

Web経由でRaspberry PiのGPIOを操作したい

Rerun:マルチモーダルデータの可視化アプリとSDK

ニューラルネットワークで画像分類

オープンソースの取引プラットフォーム

WordPressプラグインによるサイトマップの自動生成

3D Gaussian Splatting:リアルタイム描画...

Polyscope:3Dデータ操作用GUIライブラリ

JavaScriptとかWebGLとかCanvasとか

ポリゴンジオメトリ処理ライブラリ『pmp-library (...

iPhoneで3D写真が撮れるアプリ『seene』

AnacondaとTensorFlowをインストールしてVi...

pythonもかじってみようかと

PyDataTokyo主催のDeep Learning勉強会

hloc:SuperGlueで精度を向上させたSfM・Vis...

Cartographer:オープンソースのSLAMライブラリ

PyMC:Pythonのベイズ統計ライブラリ

ミニ四駆で電子工作

Unityの各コンポーネント間でのやり取り

BlenderProc:Blenderで機械学習用の画像デー...

CNN Explainer:畳み込みニューラルネットワーク可...

Pix2Pix:CGANによる画像変換

続・ディープラーニングの資料

UnityのuGUIチュートリアル

Raspberry Piでセンサーの常時稼働を検討する

ポリゴン用各種イテレータと関数セット

ヒーローに変身なりきりアーケードゲーム『ナレルンダー』

Fast R-CNN:ディープラーニングによる一般物体検出手...

Open Shading Language (OSL)

Netron:機械学習モデルを可視化するツール

SSD (Single Shot Multibox Dete...

IronPythonを使ってUnity上でPythonのコー...

Python for Unity:UnityEditorでP...

SONY製のニューラルネットワークライブラリ『NNabla』

Unityで画面タッチ・ジェスチャ入力を扱う無料Asset『...

第1回 3D勉強会@関東『SLAMチュートリアル大会』

ヘッドマウントディスプレイとビジュアリゼーションの未来

機械学習手法『Random Forest』

OpenCV 3.1とopencv_contribモジュール...

Mitsuba 3:オープンソースの研究向けレンダラ

R-CNN (Regions with CNN featur...

OpenCVのfindEssentialMat関数を使ったサ...

コメント