オープンソースの顔の動作解析ツールキット『OpenFace』

カーネギーメロン大学が開発している、顔画像から個人を識別するフレームワークOpenFaceと同じ名前で混乱しますが、



ケンブリッジ大学 Multicomp groupが開発しているOpenFaceという全く別のツールキットがあります。こちらは、顔検出、ランドマーク検出、頭の姿勢推定、表情変化の認識、視線推定などをリアルタイムに行うもの。
Copyright.txtによると、アカデミックまたは非商用に限り利用可能だそうです。商用利用は不可。

OpenFace: an open source facial behavior analysis toolkit

OpenFace


OpenFaceは、コンピュータビジョン・機械学習の研究者、情緒的コンピューティングのコミュニティ、顔の動作・表情の変化を用いたインタラクティブなアプリケーションの開発者を対象としたツールです。

OpenFaceは、顔のランドマーク検出、頭の姿勢推定、顔のAction Unitの認識、視線推定が可能な最初のツールキットです。OpenFaceのコアとなるコンピュータビジョンアルゴリズムは、上記のタスクすべてでstate-of-the-artな結果を示しています。

さらに、OpenFaceはリアルタイムに動作し、普通のウェブカメラで実行できます。特別なハードウェアは必要ありません。

Dockerfileもありますね。

公式Wikiはこちら↓
https://github.com/TadasBaltrusaitis/OpenFace/wiki

このツールキットの前身はCLM-framework(Cambridge face tracker)というフレームワークだったようです。↓
https://github.com/TadasBaltrusaitis/CLM-framework

YouTubeで公開されているデモ動画もCLM-framework時代のもの。





顔のAction Unitって概念、そういえばKinect SDKの顔認識機能でもあったな。FACS(Facial Action Coding System)の考えがベースだろうか。

関連記事

WebGL開発に関する情報が充実してきている

OpenAR:OpenCVベースのマーカーARライブラリ

AR (Augmented Reality)とDR (Dim...

海外ドラマのChromaKey

Digital Emily Project:人間の顔をそっく...

iOSデバイスのためのフィジカル・コンピューティングツールキ...

3Dスキャンに基づくプロシージャルフェイシャルアニメーション

Kaolin:3Dディープラーニング用のPyTorchライブ...

オープンソースの物理ベースGIレンダラ『appleseed』

Raspberry PiのGPIOを操作するPythonライ...

Unity ARKitプラグインサンプルのチュートリアルを読...

粘土をこねるようなスカルプトモデリング

LuxCoreRender:オープンソースの物理ベースレンダ...

Pythonの自然言語処理ライブラリ『NLTK(Natura...

オープンソースのロボットアプリケーションフレームワーク『RO...

iPhone x ロボットハッカソン~RomoのiPhone...

ニューラルネットワークと深層学習

株式会社ヘキサドライブの研究室ページ

OpenMayaのPhongShaderクラス

Mean Stack開発の最初の一歩

NeRF (Neural Radiance Fields):...

YOLO (You Only Look Once):ディープ...

Russian3DScannerのトポロジー転送ツール『Wr...

UnityでPoint Cloudを表示する方法

konashiのサンプルコードを動かしてみた

BGSLibrary:OpenCVベースの背景差分ライブラリ

Windows10でPyTorchをインストールしてVSCo...

TensorSpace.js:ニューラルネットワークの構造を...

UnrealCLR:Unreal Engineで.NET C...

「ベンジャミン·バトン数奇な人生」でどうやってCGの顔を作っ...

iOSデバイスと接続して連携するガジェットの開発方法

Cartographer:オープンソースのSLAMライブラリ

Autodesk Mementoでゴジラを3次元復元する

オープンソースの顔認識フレームワーク『OpenBR』

Kubric:機械学習用アノテーション付き動画生成パイプライ...

Iridescence:プロトタイピング向け軽量3D可視化ラ...

SDカードサイズのコンピューター『Intel Edison』

3Dモデルを立体視で確認できるVRアプリを作っている

オープンソースハードウェア Arduino (アルドゥイーノ...

OpenCVのfindEssentialMat関数を使ったサ...

Caffe:読みやすくて高速なディープラーニングのフレームワ...

MeshLab:3Dオブジェクトの確認・変換に便利なフリーウ...

コメント