オープンソースの顔の動作解析ツールキット『OpenFace』

カーネギーメロン大学が開発している、顔画像から個人を識別するフレームワークOpenFaceと同じ名前で混乱しますが、



ケンブリッジ大学 Multicomp groupが開発しているOpenFaceという全く別のツールキットがあります。こちらは、顔検出、ランドマーク検出、頭の姿勢推定、表情変化の認識、視線推定などをリアルタイムに行うもの。
Copyright.txtによると、アカデミックまたは非商用に限り利用可能だそうです。商用利用は不可。

OpenFace: an open source facial behavior analysis toolkit

OpenFace


OpenFaceは、コンピュータビジョン・機械学習の研究者、情緒的コンピューティングのコミュニティ、顔の動作・表情の変化を用いたインタラクティブなアプリケーションの開発者を対象としたツールです。

OpenFaceは、顔のランドマーク検出、頭の姿勢推定、顔のAction Unitの認識、視線推定が可能な最初のツールキットです。OpenFaceのコアとなるコンピュータビジョンアルゴリズムは、上記のタスクすべてでstate-of-the-artな結果を示しています。

さらに、OpenFaceはリアルタイムに動作し、普通のウェブカメラで実行できます。特別なハードウェアは必要ありません。

Dockerfileもありますね。

公式Wikiはこちら↓
https://github.com/TadasBaltrusaitis/OpenFace/wiki

このツールキットの前身はCLM-framework(Cambridge face tracker)というフレームワークだったようです。↓
https://github.com/TadasBaltrusaitis/CLM-framework

YouTubeで公開されているデモ動画もCLM-framework時代のもの。





顔のAction Unitって概念、そういえばKinect SDKの顔認識機能でもあったな。FACS(Facial Action Coding System)の考えがベースだろうか。

関連記事

NeRF (Neural Radiance Fields):深層学習による新規視点合成

Zibra Liquids:Unity向け流体シミュレーションプラグイン

ディープラーニング

OpenCVでPhotoshopのプラグイン開発

PGGAN:段階的に解像度を上げて学習を進めるGAN

Open3D:3Dデータ処理ライブラリ

UnityでLight Shaftを表現する

MeshLab:3Dオブジェクトの確認・変換に便利なフリーウェア

OpenCVのfindEssentialMat関数を使ったサンプルを読んでみる

ドラマ『ファーストクラス』のモーショングラフィックス

Structure from Motion (多視点画像からの3次元形状復元)

第25回コンピュータビジョン勉強会@関東に行って来た

画像生成AI Stable Diffusionで遊ぶ

OpenMVSのサンプルを動かしてみる

Python.NET:Pythonと.NETを連携させるパッケージ

TensorSpace.js:ニューラルネットワークの構造を可視化するフレームワーク

Unityからkonashiをコントロールする

サンプルコードにも間違いはある?

ヒーローに変身なりきりアーケードゲーム『ナレルンダー』

Amazon EC2ログイン用の秘密鍵を無くした場合の対処方法

PythonでMayaのShapeノードプラグインを作る

Math Inspector:科学計算向けビジュアルプログラミングツール

Point Cloud Libraryに動画フォーマットが追加されるらしい

ヘッドマウントディスプレイとビジュアリゼーションの未来

Unityで学ぶC#

openMVG:複数視点画像から3次元形状を復元するライブラリ

CycleGAN:ドメイン関係を学習した画像変換

clearcoat Shader

Kubric:機械学習用アノテーション付き動画生成パイプライン

ROSの薄い本

書籍『OpenCV 3 プログラミングブック』を購入

KelpNet:C#で使える可読性重視のディープラーニングライブラリ

Netron:機械学習モデルを可視化するツール

Kinect for Windows v2の日本価格決定

Googleが画像解析旅行ガイドアプリのJetpac社を買収

Deep Learningとその他の機械学習手法の性能比較

オープンソースのロボットアプリケーションフレームワーク『ROS (Robot Operating S...

Mayaのプラグイン開発

書籍『ゼロから作るDeep Learning』で自分なりに学ぶ

pythonの機械学習ライブラリ『scikit-learn』

ベイズ推定とグラフィカルモデル

Accord.NET Framework:C#で使える機械学習ライブラリ

コメント