オープンソースの顔の動作解析ツールキット『OpenFace』

カーネギーメロン大学が開発している、顔画像から個人を識別するフレームワークOpenFaceと同じ名前で混乱しますが、



ケンブリッジ大学 Multicomp groupが開発しているOpenFaceという全く別のツールキットがあります。こちらは、顔検出、ランドマーク検出、頭の姿勢推定、表情変化の認識、視線推定などをリアルタイムに行うもの。
Copyright.txtによると、アカデミックまたは非商用に限り利用可能だそうです。商用利用は不可。

OpenFace: an open source facial behavior analysis toolkit

OpenFace


OpenFaceは、コンピュータビジョン・機械学習の研究者、情緒的コンピューティングのコミュニティ、顔の動作・表情の変化を用いたインタラクティブなアプリケーションの開発者を対象としたツールです。

OpenFaceは、顔のランドマーク検出、頭の姿勢推定、顔のAction Unitの認識、視線推定が可能な最初のツールキットです。OpenFaceのコアとなるコンピュータビジョンアルゴリズムは、上記のタスクすべてでstate-of-the-artな結果を示しています。

さらに、OpenFaceはリアルタイムに動作し、普通のウェブカメラで実行できます。特別なハードウェアは必要ありません。

Dockerfileもありますね。

公式Wikiはこちら↓
https://github.com/TadasBaltrusaitis/OpenFace/wiki

このツールキットの前身はCLM-framework(Cambridge face tracker)というフレームワークだったようです。↓
https://github.com/TadasBaltrusaitis/CLM-framework

YouTubeで公開されているデモ動画もCLM-framework時代のもの。





顔のAction Unitって概念、そういえばKinect SDKの顔認識機能でもあったな。FACS(Facial Action Coding System)の考えがベースだろうか。

関連記事

bpy-renderer:レンダリング用Pythonパッケー...

Composition Rendering:Blenderに...

python-twitterで自分のお気に入りを取得する

フォトンの放射から格納までを可視化した動画

fSpy:1枚の写真からカメラパラメーターを割り出すツール

Google App Engine上のWordPressでF...

Raspberry Pi

Adobeの手振れ補正機能『ワープスタビライザー』の秘密

Amazon Web ServicesでWordPress

ニューラルネットワークで画像分類

PyTorch3D:3Dコンピュータービジョンライブラリ

TensorSpace.js:ニューラルネットワークの構造を...

OpenCV 3.3.0 contribのsfmモジュールの...

書籍『ゼロから作るDeep Learning』で自分なりに学...

CGAN (Conditional GAN):条件付き敵対的...

Geogram:C++の3D幾何アルゴリズムライブラリ

iOSデバイスと接続して連携するガジェットの開発方法

プログラムによる景観の自動生成

PGGAN:段階的に解像度を上げて学習を進めるGAN

OpenGV:画像からカメラの3次元位置・姿勢を推定するライ...

pythonもかじってみようかと

疑似3D写真が撮れるiPhoneアプリ『Seene』がアップ...

iOSで使えるJetpac社の物体認識SDK『DeepBel...

Caffe:読みやすくて高速なディープラーニングのフレームワ...

OpenCVでカメラ画像から自己位置認識 (Visual O...

Digital Emily Project:人間の顔をそっく...

ManuelBastioniLAB:人体モデリングできるBl...

UnityでOpenCVを使うには?

MeshLab:3Dオブジェクトの確認・変換に便利なフリーウ...

uvでWindows11のPython環境を管理する

Google Chromecast

PythonでBlenderのAdd-on開発

Theia:オープンソースのStructure from M...

3D Gaussian Splatting:リアルタイム描画...

3Dスキャンに基づくプロシージャルフェイシャルアニメーション

OpenMesh:オープンソースの3Dメッシュデータライブラ...

TeleSculptor:空撮動画からPhotogramme...

OpenGVの用語

Kinect for Windows v2の日本価格決定

Webスクレイピングの勉強会に行ってきた

Unityで学ぶC#

参考書

コメント