オープンソースの顔の動作解析ツールキット『OpenFace』

カーネギーメロン大学が開発している、顔画像から個人を識別するフレームワークOpenFaceと同じ名前で混乱しますが、



ケンブリッジ大学 Multicomp groupが開発しているOpenFaceという全く別のツールキットがあります。こちらは、顔検出、ランドマーク検出、頭の姿勢推定、表情変化の認識、視線推定などをリアルタイムに行うもの。
Copyright.txtによると、アカデミックまたは非商用に限り利用可能だそうです。商用利用は不可。

OpenFace: an open source facial behavior analysis toolkit

OpenFace


OpenFaceは、コンピュータビジョン・機械学習の研究者、情緒的コンピューティングのコミュニティ、顔の動作・表情の変化を用いたインタラクティブなアプリケーションの開発者を対象としたツールです。

OpenFaceは、顔のランドマーク検出、頭の姿勢推定、顔のAction Unitの認識、視線推定が可能な最初のツールキットです。OpenFaceのコアとなるコンピュータビジョンアルゴリズムは、上記のタスクすべてでstate-of-the-artな結果を示しています。

さらに、OpenFaceはリアルタイムに動作し、普通のウェブカメラで実行できます。特別なハードウェアは必要ありません。

Dockerfileもありますね。

公式Wikiはこちら↓
https://github.com/TadasBaltrusaitis/OpenFace/wiki

このツールキットの前身はCLM-framework(Cambridge face tracker)というフレームワークだったようです。↓
https://github.com/TadasBaltrusaitis/CLM-framework

YouTubeで公開されているデモ動画もCLM-framework時代のもの。





顔のAction Unitって概念、そういえばKinect SDKの顔認識機能でもあったな。FACS(Facial Action Coding System)の考えがベースだろうか。

関連記事

自前のShaderがおかしい件

UnityからROSを利用できる『ROS#』

UnityのGameObjectの向きをScriptで制御する

顔検出・認識のAPI・ライブラリ・ソフトウェアのリスト

Google App Engine上のWordPressでAmazonJSを利用する

Raspberry PiのGPIOを操作するPythonライブラリ『RPi.GPIO』の使い方

機械学習手法『Random Forest』

TensorFlowでCGを微分できる『TensorFlow Graphics』

画像生成AI Stable Diffusionで遊ぶ

Digital Emily Project:人間の顔をそっくりそのままCGで復元する

東京オリンピックと案内表示

UnityのTransformクラスについて調べてみた

ドットインストールのWordPress入門レッスン

FacebookがDeep learningツールの一部をオープンソース化

PythonのHTML・XMLパーサー『BeautifulSoup』

.NETで使えるTensorFlowライクなニューラルネットワークライブラリ『NeuralNetwo...

OpenMayaRender

OpenCVの超解像(SuperResolution)モジュールを試す

OpenFace:Deep Neural Networkによる顔の個人識別フレームワーク

Multi-View Environment:複数画像から3次元形状を再構築するライブラリ

Kubric:機械学習用アノテーション付き動画生成パイプライン

RefineNet (Multi-Path Refinement Network):ディープラーニン...

MB-Lab:Blenderの人体モデリングアドオン

インターフェイスは世界を規定する

Regard3D:オープンソースのStructure from Motionツール

C++の抽象クラス

ポリゴン用各種イテレータと関数セット

『手を動かしながら学ぶエンジニアのためのデータサイエンス』ハンズオンセミナーに行ってきた

Runway ML:クリエイターのための機械学習ツール

科学技術計算向けスクリプト言語『Julia』

OpenCVで平均顔を作るチュートリアル

AfterEffectsプラグイン開発

動的なメモリの扱い

CGALDotNet:計算幾何学ライブラリ CGALのC#ラッパー

フィクションに登場するUIデザインのまとめサイト

PCA (主成分分析)

Googleが画像解析旅行ガイドアプリのJetpac社を買収

UnityでTweenアニメーションを実装できる3種類の無料Asset

定数

サンプルコードにも間違いはある?

マルコフ連鎖モンテカルロ法

iPadをハンディ3Dスキャナにするガジェット『iSense 3D Scanner』

コメント