UnityでOpenCVを使うには?

OpenCVで2D情報をもとに3Dの計算を行う際、実装が間違ってないかopencv_contribのvizモジュールで可視化して確かめてるんだけど、vizモジュールって割と低レベルな機能しか提供していないのでちょっとしんどくなってきた。



デバッグ目的の可視化はUnityEditorぐらい手軽に済ませたいところ。だったら最初からUnityを使ってしまおうと思って調べ始めた。

3つの有料Asset

UnityのAssetStoreで調べてみると、Unity上でOpenCVの機能を使えるようにする有料Assetが3つある。

UnityでOpenCVの機能を使うには、もちろん自分でC++ネイティブプラグインを作るという手もある。
だけど、オイラはあくまで自分の3D実装が正しいのか確認するプロセス(つまりデバッグ)の効率を上げたいので、Assetを購入して手間を減らす方針。もうさっさと課金しちゃいましょう。

最初はこちらのQiita記事を読んでEmguCVに気持ちが傾きかけたんだけど、これはやや古い記事なので今現在の状況を調べた方が良い。↓
http://qiita.com/jhorikawa/items/fafee3373eb3ccef02c8

結論から言うと、OpenCV for Unityを使うことにしました。以下調べたことを順にメモ書き。


スポンサーリンク

OpenCV plus Unity

OpenCV plus Unityは、OpenCVをC#で使えるようにポートしたオープンソースプロジェクトOpenCVSharpがベースになっている。

OpenCV plus Unity Sketch App

公式ドキュメントはこちら↓
http://paperplanetools.com/cvwd_doc/html/class_open_cv_sharp_1_1_cv2.html


スポンサーリンク

OpenCV for Unity

OpenCV for Unityは3つの中で断然有名。
https://enoxsoftware.com/opencvforunity/

上記の古いQiita記事では、OpenCVのJavaラッパーをポートしていると書かれていたけど、どうやら現在は違う模様。API仕様はOpenCV Javaに合わせているけど、バックの実装は直にC++っぽいです。処理のオーバーヘッドはあんまり気にしなくて良さそう。(少なくとも、C++でOpenCV vizモジュールを使って可視化するより高速だった)

OpenCV for Untiy ExampleScene Setup Tutorial for Unity5

現在はOpenCVの最新版3.3.04.0.0に対応。UnityのTexture型とOpenCVのMat型を相互に変換するUtilメソッドが用意されているのも魅力。

公式ドキュメントはこちら↓
http://enoxsoftware.github.io/OpenCVForUnity/3.0.0/doc/html/index.html

Emgu CV v3.x

Emgu CV v3.xQiita記事にある通り、OpenCVをクロスプラットフォーム化するオープンソースの.NETラッパープロジェクトEmguCVがベースとなっている。

EmguCVのソースコードはこちら↓
https://github.com/emgucv/emgucv

EmguCV自体はオープンソースだけど、商用利用するには有償版を購入する必要があり、Windows版のみ商用利用不可の無償版が配布されている。↓
https://sourceforge.net/projects/emgucv/

公式ドキュメントはこちら↓
http://www.emgu.com/wiki/index.php/Documentation

決め手

で、オイラ的には、UnityのTexture型とOpenCVのMat型の相互変換メソッドがすでに用意されているOpenCV for Unityがベストに思えたのだ。だって頻繁に行う処理だし。
OpenCV for Unityならユーザーが多くてアップデート頻度も高そうだ。

ところで、どのAssetもopencv_contribArUcoは含まれているのが面白い。AR機能の需要は高いんですかね。



スポンサーリンク

関連記事

Active Appearance Models(AAM)
ニューラルネットワークで画像分類
Raspberry PiでIoTごっこ
OpenCV 3.1から追加されたSfMモジュール
Google App Engine上のWordPressでAmazonJSを利用する
Windows10でPyTorchをインストールしてVSCodeで使う
UnityユーザーがUnreal Engineの使い方を学ぶには?
iPhoneで3D写真が撮れるアプリ『seene』
Adobeの手振れ補正機能『ワープスタビライザー』の秘密
仮想関数
ベイズ推定とグラフィカルモデル
Google App EngineでWordPress
OpenGVの用語
人体モデリングできるBlenderアドオン『ManuelBastioniLAB』
手を動かしながら学ぶデータマイニング
Raspberry Pi 2を買いました
HD画質の無駄遣い その2
Unityで360度ステレオVR動画を作る
SSD (Single Shot Multibox Detector):ディープラーニングによる一般...
オープンソースの顔の動作解析ツールキット『OpenFace』
書籍『3次元コンピュータビジョン計算ハンドブック』を購入
C++始めようと思うんだ
C#で使える可読性重視のディープラーニングライブラリ『KelpNet』
PyDataTokyo主催のDeep Learning勉強会
OpenCV 3.1のsfmモジュールのビルド再び
adskShaderSDK
なんかすごいサイト
iOSで使えるJetpac社の物体認識SDK『DeepBelief』
CGレンダラ研究開発のためのフレームワーク『Lightmetrica (ライトメトリカ)』
ディープラーニングに対応したPythonの機械学習ライブラリ『Pylearn2』
スマホのカメラで3Dスキャンできるアプリ『Qlone』
R-CNN (Regions with CNN features):ディープラーニングによる一般物体...
OpenCVの顔検出過程を可視化した動画
SSII2014 チュートリアル講演会の資料
3Dスキャンしたテクスチャから照明を除去するUnityツール『De Lighting tool』
Google App Engine上のWordPressでFlickrの画像を貼る
畳み込みニューラルネットワーク (CNN:Convolutional Neural Network)
MFnMeshクラスのsplit関数
OpenCV 3.3.0-RCでsfmモジュールをビルド
ポイントクラウドコンソーシアム
画像からカメラの3次元位置・姿勢を推定するライブラリ『OpenGV』
顔検出・認識のAPI・ライブラリ・ソフトウェアのリスト

コメント