オープンソースの顔の動作解析ツールキット『OpenFace』

カーネギーメロン大学が開発している、顔画像から個人を識別するフレームワークOpenFaceと同じ名前で混乱しますが、



ケンブリッジ大学 Multicomp groupが開発しているOpenFaceという全く別のツールキットがあります。こちらは、顔検出、ランドマーク検出、頭の姿勢推定、表情変化の認識、視線推定などをリアルタイムに行うもの。
Copyright.txtによると、アカデミックまたは非商用に限り利用可能だそうです。商用利用は不可。

OpenFace: an open source facial behavior analysis toolkit

OpenFace


OpenFaceは、コンピュータビジョン・機械学習の研究者、情緒的コンピューティングのコミュニティ、顔の動作・表情の変化を用いたインタラクティブなアプリケーションの開発者を対象としたツールです。

OpenFaceは、顔のランドマーク検出、頭の姿勢推定、顔のAction Unitの認識、視線推定が可能な最初のツールキットです。OpenFaceのコアとなるコンピュータビジョンアルゴリズムは、上記のタスクすべてでstate-of-the-artな結果を示しています。

さらに、OpenFaceはリアルタイムに動作し、普通のウェブカメラで実行できます。特別なハードウェアは必要ありません。

Dockerfileもありますね。

公式Wikiはこちら↓
https://github.com/TadasBaltrusaitis/OpenFace/wiki

このツールキットの前身はCLM-framework(Cambridge face tracker)というフレームワークだったようです。↓
https://github.com/TadasBaltrusaitis/CLM-framework

YouTubeで公開されているデモ動画もCLM-framework時代のもの。





顔のAction Unitって概念、そういえばKinect SDKの顔認識機能でもあったな。FACS(Facial Action Coding System)の考えがベースだろうか。

関連記事

UnityのAR FoundationでARKit 3

タマムシっぽい質感

組み込み向けのWindows OS 『Windows Emb...

SDカードサイズのコンピューター『Intel Edison』

FCN (Fully Convolutional Netwo...

OpenCVで平均顔を作るチュートリアル

CLO:服飾デザインツール

ミニ四駆で電子工作

オープンソースの物理ベースレンダラ『Mitsuba』をMay...

ブログのデザイン変えました

SSII2014 チュートリアル講演会の資料

参考書

Point Cloud Libraryに動画フォーマットが追...

ポイントクラウドコンソーシアム

R-CNN (Regions with CNN featur...

フォトンの放射から格納までを可視化した動画

TensorSpace.js:ニューラルネットワークの構造を...

WebGL開発に関する情報が充実してきている

Quartus II

Kaolin:3Dディープラーニング用のPyTorchライブ...

Deep Learningとその他の機械学習手法の性能比較

UnityでLight Shaftを表現する

Regard3D:オープンソースのStructure fro...

Faceshiftで表情をキャプチャしてBlender上でM...

SONY製のニューラルネットワークライブラリ『NNabla』

iOSデバイスのためのフィジカル・コンピューティングツールキ...

池袋パルコで3Dのバーチャルフィッティング『ウェアラブル ク...

OpenCVで顔のモーフィングを実装する

Unityで学ぶC#

頭蓋骨からの顔復元と進化過程の可視化

hloc:SuperGlueで精度を向上させたSfM・Vis...

openMVG:複数視点画像から3次元形状を復元するライブラ...

BGSLibrary:OpenCVベースの背景差分ライブラリ

為替レートの読み方 2WAYプライス表示

UnityプロジェクトをGitHubで管理する

ブラウザ操作自動化ツール『Selenium』を試す

Rerun:マルチモーダルデータの可視化アプリとSDK

2D→3D復元技術で使われる用語まとめ

SSD (Single Shot Multibox Dete...

3Dグラフィックスの入門書

3D Gaussian Splatting:リアルタイム描画...

株式会社ヘキサドライブの研究室ページ

コメント