オープンソースの顔の動作解析ツールキット『OpenFace』

カーネギーメロン大学が開発している、顔画像から個人を識別するフレームワークOpenFaceと同じ名前で混乱しますが、



ケンブリッジ大学 Multicomp groupが開発しているOpenFaceという全く別のツールキットがあります。こちらは、顔検出、ランドマーク検出、頭の姿勢推定、表情変化の認識、視線推定などをリアルタイムに行うもの。
Copyright.txtによると、アカデミックまたは非商用に限り利用可能だそうです。商用利用は不可。

OpenFace: an open source facial behavior analysis toolkit

OpenFace


OpenFaceは、コンピュータビジョン・機械学習の研究者、情緒的コンピューティングのコミュニティ、顔の動作・表情の変化を用いたインタラクティブなアプリケーションの開発者を対象としたツールです。

OpenFaceは、顔のランドマーク検出、頭の姿勢推定、顔のAction Unitの認識、視線推定が可能な最初のツールキットです。OpenFaceのコアとなるコンピュータビジョンアルゴリズムは、上記のタスクすべてでstate-of-the-artな結果を示しています。

さらに、OpenFaceはリアルタイムに動作し、普通のウェブカメラで実行できます。特別なハードウェアは必要ありません。

Dockerfileもありますね。

公式Wikiはこちら↓
https://github.com/TadasBaltrusaitis/OpenFace/wiki

このツールキットの前身はCLM-framework(Cambridge face tracker)というフレームワークだったようです。↓
https://github.com/TadasBaltrusaitis/CLM-framework

YouTubeで公開されているデモ動画もCLM-framework時代のもの。





顔のAction Unitって概念、そういえばKinect SDKの顔認識機能でもあったな。FACS(Facial Action Coding System)の考えがベースだろうか。

関連記事

OpenCV 3.1とopencv_contribモジュール...

C++ 標準テンプレートライブラリ (STL)

UnityでLight Shaftを表現する

書籍『データビジュアライゼーションのデザインパターン20』読...

ROMOハッカソンに行ってきた

geometry3Sharp:Unity C#で使えるポリゴ...

C#で使える遺伝的アルゴリズムライブラリ『GeneticSh...

TorchStudio:PyTorchのための統合開発環境と...

BGSLibrary:OpenCVベースの背景差分ライブラリ

疑似3D写真が撮れるiPhoneアプリ『Seene』がアップ...

3D Gaussian Splatting:リアルタイム描画...

OpenCVのバージョン3が正式リリースされたぞ

Pix2Pix:CGANによる画像変換

Google App Engine上のWordPressでA...

Googleが画像解析旅行ガイドアプリのJetpac社を買収

Boost オープンソースライブラリ

タマムシっぽい質感

Iridescence:プロトタイピング向け軽量3D可視化ラ...

Manim:Pythonで使える数学アニメーションライブラリ

OpenCVで顔のランドマークを検出する『Facemark ...

UnityのuGUIチュートリアル

uGUI:Unityの新しいGUI作成システム

書籍『OpenCV 3 プログラミングブック』を購入

Unityで強化学習できる『Unity ML-Agents』

trimesh:PythonでポリゴンMeshを扱うライブラ...

CGレンダラ研究開発のためのフレームワーク『Lightmet...

UnityのAR FoundationでARKit 3

UnityでPoint Cloudを表示する方法

LuxCoreRender:オープンソースの物理ベースレンダ...

NeRF (Neural Radiance Fields):...

Unreal Engineの薄い本

OpenCVでPhotoshopのプラグイン開発

TeleSculptor:空撮動画からPhotogramme...

リニアアクチュエータ

PyDataTokyo主催のDeep Learning勉強会

Fast R-CNN:ディープラーニングによる一般物体検出手...

PGGAN:段階的に解像度を上げて学習を進めるGAN

ROSの薄い本

Kinect for Windows V2のプレオーダー開始

BlenderProc:Blenderで機械学習用の画像デー...

Pylearn2:ディープラーニングに対応したPythonの...

Mayaのシェーディングノードの区分

コメント