オープンソースの顔の動作解析ツールキット『OpenFace』

カーネギーメロン大学が開発している、顔画像から個人を識別するフレームワークOpenFaceと同じ名前で混乱しますが、



ケンブリッジ大学 Multicomp groupが開発しているOpenFaceという全く別のツールキットがあります。こちらは、顔検出、ランドマーク検出、頭の姿勢推定、表情変化の認識、視線推定などをリアルタイムに行うもの。
Copyright.txtによると、アカデミックまたは非商用に限り利用可能だそうです。商用利用は不可。

OpenFace: an open source facial behavior analysis toolkit

OpenFace


OpenFaceは、コンピュータビジョン・機械学習の研究者、情緒的コンピューティングのコミュニティ、顔の動作・表情の変化を用いたインタラクティブなアプリケーションの開発者を対象としたツールです。

OpenFaceは、顔のランドマーク検出、頭の姿勢推定、顔のAction Unitの認識、視線推定が可能な最初のツールキットです。OpenFaceのコアとなるコンピュータビジョンアルゴリズムは、上記のタスクすべてでstate-of-the-artな結果を示しています。

さらに、OpenFaceはリアルタイムに動作し、普通のウェブカメラで実行できます。特別なハードウェアは必要ありません。

Dockerfileもありますね。

公式Wikiはこちら↓
https://github.com/TadasBaltrusaitis/OpenFace/wiki

このツールキットの前身はCLM-framework(Cambridge face tracker)というフレームワークだったようです。↓
https://github.com/TadasBaltrusaitis/CLM-framework

YouTubeで公開されているデモ動画もCLM-framework時代のもの。





顔のAction Unitって概念、そういえばKinect SDKの顔認識機能でもあったな。FACS(Facial Action Coding System)の考えがベースだろうか。

関連記事

Kornia:微分可能なコンピュータービジョンライブラリ

Point Cloud Consortiumのセミナー「3D...

cvui:OpenCVのための軽量GUIライブラリ

Mask R-CNN:ディープラーニングによる一般物体検出・...

PythonでBlenderのAdd-on開発

科学技術計算向けスクリプト言語『Julia』

ブラウザ操作自動化ツール『Selenium』を試す

Gource:バージョン管理の履歴を可視化するツール

ZScript

FCN (Fully Convolutional Netwo...

OpenCVで顔のモーフィングを実装する

チャットツール用bot開発フレームワーク『Hubot』

OpenGV:画像からカメラの3次元位置・姿勢を推定するライ...

ベイズ推定とグラフィカルモデル

オープンソースの物理ベースレンダラ『Mitsuba』をMay...

BlenderProc:Blenderで機械学習用の画像デー...

サンプルコードにも間違いはある?

C++の抽象クラス

クラスの基本

Raspberry Pi 2のGPIOピン配置

ブログのデザイン変えました

書籍『OpenCV 3 プログラミングブック』を購入

NeuralNetwork.NET:.NETで使えるTens...

3D Gaussian Splatting:リアルタイム描画...

ZBrushで作った3Dモデルを立体視で確認できるVRアプリ...

参考書

COLMAP:オープンソースのSfM・MVSツール

Faceshiftで表情をキャプチャしてBlender上でM...

1枚の画像からマテリアルを作成できる無料ツール『Materi...

Adobeの手振れ補正機能『ワープスタビライザー』の秘密

Mayaのシェーディングノードの区分

シフトカーを改造してラジコン化する人達

MFnDataとMFnAttribute

オープンソースの物理ベースGIレンダラ『appleseed』

KelpNet:C#で使える可読性重視のディープラーニングラ...

OpenCVでiPhone6sのカメラをキャリブレーションす...

SSII2014 チュートリアル講演会の資料

PGGAN:段階的に解像度を上げて学習を進めるGAN

Qlone:スマホのカメラで3Dスキャンできるアプリ

YOLO (You Only Look Once):ディープ...

Raspberry Piでセンサーの常時稼働を検討する

第25回コンピュータビジョン勉強会@関東に行って来た

コメント