UnityでOpenCVを使うには?

OpenCVで2D情報をもとに3Dの計算を行う際、実装が間違ってないかopencv_contribのvizモジュールで可視化して確かめてるんだけど、vizモジュールって割と低レベルな機能しか提供していないのでちょっとしんどくなってきた。



デバッグ目的の可視化はUnityEditorぐらい手軽に済ませたいところ。だったら最初からUnityを使ってしまおうと思って調べ始めた。

3つの有料Asset

UnityのAssetStoreで調べてみると、Unity上でOpenCVの機能を使えるようにする有料Assetが3つある。

UnityでOpenCVの機能を使うには、もちろん自分でC++ネイティブプラグインを作るという手もある。
だけど、オイラはあくまで自分の3D実装が正しいのか確認するプロセス(つまりデバッグ)の効率を上げたいので、Assetを購入して手間を減らす方針。もうさっさと課金しちゃいましょう。

最初はこちらのQiita記事を読んでEmguCVに気持ちが傾きかけたんだけど、これはやや古い記事なので今現在の状況を調べた方が良い。↓
http://qiita.com/jhorikawa/items/fafee3373eb3ccef02c8

結論から言うと、OpenCV for Unityを使うことにしました。以下調べたことを順にメモ書き。


OpenCV plus Unity

OpenCV plus Unityは、OpenCVをC#で使えるようにポートしたオープンソースプロジェクトOpenCVSharpがベースになっている。



公式ドキュメントはこちら↓
http://paperplanetools.com/cvwd_doc/html/class_open_cv_sharp_1_1_cv2.html

OpenCV for Unity

OpenCV for Unityは3つの中で断然有名。
https://enoxsoftware.com/opencvforunity/

上記の古いQiita記事では、OpenCVのJavaラッパーをポートしていると書かれていたけど、どうやら現在は違う模様。API仕様はOpenCV Javaに合わせているけど、バックの実装は直にC++っぽいです。処理のオーバーヘッドはあんまり気にしなくて良さそう。(少なくとも、C++でOpenCV vizモジュールを使って可視化するより高速だった)



現在はOpenCVの最新版3.3.04.0.0に対応。UnityのTexture型とOpenCVのMat型を相互に変換するUtilメソッドが用意されているのも魅力。

公式ドキュメントはこちら↓
http://enoxsoftware.github.io/OpenCVForUnity/3.0.0/doc/html/index.html

Emgu CV v3.x

Emgu CV v3.xQiita記事にある通り、OpenCVをクロスプラットフォーム化するオープンソースの.NETラッパープロジェクトEmguCVがベースとなっている。

EmguCVのソースコードはこちら↓
https://github.com/emgucv/emgucv

EmguCV自体はオープンソースだけど、商用利用するには有償版を購入する必要があり、Windows版のみ商用利用不可の無償版が配布されている。↓
https://sourceforge.net/projects/emgucv/

公式ドキュメントはこちら↓
http://www.emgu.com/wiki/index.php/Documentation

決め手

で、オイラ的には、UnityのTexture型とOpenCVのMat型の相互変換メソッドがすでに用意されているOpenCV for Unityがベストに思えたのだ。だって頻繁に行う処理だし。
OpenCV for Unityならユーザーが多くてアップデート頻度も高そうだ。

ところで、どのAssetもopencv_contribArUcoは含まれているのが面白い。AR機能の需要は高いんですかね。


関連記事

PyMC:Pythonのベイズ統計ライブラリ

AndroidもopenGLも初心者さ (でもJavaは知っ...

MB-Lab:Blenderの人体モデリングアドオン

ZBrushで作った3Dモデルを立体視で確認できるVRアプリ...

プログラミングスキルとは何か?

MPFB2:Blenderの人体モデリングアドオン

画像生成AI Stable Diffusionで遊ぶ

組み込み向けのWindows OS 『Windows Emb...

VCG Library:C++のポリゴン操作ライブラリ

OpenCV 3.1とopencv_contribモジュール...

pythonの機械学習ライブラリ『scikit-learn』

OpenCVのfindEssentialMat関数を使ったサ...

python-twitterで自分のお気に入りを取得する

書籍『ROSプログラミング』

WordPress on Windows Azure

Oculus Goを購入!

Python for Unity:UnityEditorでP...

Kornia:微分可能なコンピュータービジョンライブラリ

Amazon Web ServicesでWordPress

SSII2014 チュートリアル講演会の資料

Swark:コードからアーキテクチャ図を作成できるVSCod...

DensePose:画像中の人物表面のUV座標を推定する

FreeMoCap Project:オープンソースのマーカー...

NeuralNetwork.NET:.NETで使えるTens...

iPhoneで3D写真が撮れるアプリ『seene』

FacebookがDeep learningツールの一部をオ...

Mean Stack開発の最初の一歩

機械学習に役立つPythonライブラリ一覧

Blendify:コンピュータービジョン向けBlenderラ...

PythonでMayaのShapeノードプラグインを作る

Fast R-CNN:ディープラーニングによる一般物体検出手...

Math Inspector:科学計算向けビジュアルプログラ...

LuxCoreRender:オープンソースの物理ベースレンダ...

Maya LTのQuick Rigを試す

Mayaのシェーディングノードの区分

Kinect for Windows V2のプレオーダー開始

第1回 3D勉強会@関東『SLAMチュートリアル大会』

pythonもかじってみようかと

ニューラルネットワークで画像分類

参考書

SSD (Single Shot Multibox Dete...

画像認識による位置情報取得 - Semi-Direct Mo...

コメント