オープンソースの顔の動作解析ツールキット『OpenFace』

カーネギーメロン大学が開発している、顔画像から個人を識別するフレームワークOpenFaceと同じ名前で混乱しますが、



ケンブリッジ大学 Multicomp groupが開発しているOpenFaceという全く別のツールキットがあります。こちらは、顔検出、ランドマーク検出、頭の姿勢推定、表情変化の認識、視線推定などをリアルタイムに行うもの。
Copyright.txtによると、アカデミックまたは非商用に限り利用可能だそうです。商用利用は不可。

OpenFace: an open source facial behavior analysis toolkit

OpenFace


OpenFaceは、コンピュータビジョン・機械学習の研究者、情緒的コンピューティングのコミュニティ、顔の動作・表情の変化を用いたインタラクティブなアプリケーションの開発者を対象としたツールです。

OpenFaceは、顔のランドマーク検出、頭の姿勢推定、顔のAction Unitの認識、視線推定が可能な最初のツールキットです。OpenFaceのコアとなるコンピュータビジョンアルゴリズムは、上記のタスクすべてでstate-of-the-artな結果を示しています。

さらに、OpenFaceはリアルタイムに動作し、普通のウェブカメラで実行できます。特別なハードウェアは必要ありません。

Dockerfileもありますね。

公式Wikiはこちら↓
https://github.com/TadasBaltrusaitis/OpenFace/wiki

このツールキットの前身はCLM-framework(Cambridge face tracker)というフレームワークだったようです。↓
https://github.com/TadasBaltrusaitis/CLM-framework

YouTubeで公開されているデモ動画もCLM-framework時代のもの。





顔のAction Unitって概念、そういえばKinect SDKの顔認識機能でもあったな。FACS(Facial Action Coding System)の考えがベースだろうか。

関連記事

2D→3D復元技術で使われる用語まとめ

OpenCV 3.1とopencv_contribモジュールをVisual Studio 2015で...

マルコフ連鎖モンテカルロ法

hloc:SuperGlueで精度を向上させたSfM・Visual Localization

PyTorch3D:3Dコンピュータービジョンライブラリ

WinSCP

Dlib:C++の機械学習ライブラリ

U-Net:ディープラーニングによるSemantic Segmentation手法

OpenMVS:Multi-View Stereoによる3次元復元ライブラリ

サンプルコードにも間違いはある?

OpenCVで動画の手ぶれ補正

UnrealCLR:Unreal Engineで.NET Coreを利用できるプラグイン

WordPress on Windows Azure

Mask R-CNN:ディープラーニングによる一般物体検出・Instance Segmentatio...

オープンソースのプリント基板設計ツール『KiCad』

ROSでガンダムを動かす

WordPressのサーバ引っ越し方法を考える

PythonのHTML・XMLパーサー『BeautifulSoup』

OANDAのfxTrade API

プログラムによる景観の自動生成

Digital Emily Project:人間の顔をそっくりそのままCGで復元する

ManuelBastioniLAB:人体モデリングできるBlenderアドオン

iPadをハンディ3Dスキャナにするガジェット『iSense 3D Scanner』

UnityでPoint Cloudを表示する方法

池袋パルコで3Dのバーチャルフィッティング『ウェアラブル クロージング バイ アーバンリサーチ』

Kornia:微分可能なコンピュータービジョンライブラリ

Pix2Pix:CGANによる画像変換

TensorSpace.js:ニューラルネットワークの構造を可視化するフレームワーク

ROSの薄い本

Live CV:インタラクティブにComputer Visionコーディングができるツール

MVStudio:オープンソースのPhotogrammetryツール

ディープラーニング

fSpy:1枚の写真からカメラパラメーターを割り出すツール

Raspberry Pi

Mitsuba 3:オープンソースの研究向けレンダラ

bpy-renderer:レンダリング用Pythonパッケージ

ベイズ推定とグラフィカルモデル

CGのためのディープラーニング

R-CNN (Regions with CNN features):ディープラーニングによる一般物体...

CycleGAN:ドメイン関係を学習した画像変換

AmazonEC2のインスタンスをt1.microからt2.microへ移行する

UnityからROSを利用できる『ROS#』

コメント