サイトアイコン NegativeMindException

UnityでOpenCVを使うには?

OpenCVで2D情報をもとに3Dの計算を行う際、実装が間違ってないかopencv_contribのvizモジュールで可視化して確かめてるんだけど、vizモジュールって割と低レベルな機能しか提供していないのでちょっとしんどくなってきた。



デバッグ目的の可視化はUnityEditorぐらい手軽に済ませたいところ。だったら最初からUnityを使ってしまおうと思って調べ始めた。

3つの有料Asset

UnityのAssetStoreで調べてみると、Unity上でOpenCVの機能を使えるようにする有料Assetが3つある。

UnityでOpenCVの機能を使うには、もちろん自分でC++ネイティブプラグインを作るという手もある。
だけど、オイラはあくまで自分の3D実装が正しいのか確認するプロセス(つまりデバッグ)の効率を上げたいので、Assetを購入して手間を減らす方針。もうさっさと課金しちゃいましょう。

最初はこちらのQiita記事を読んでEmguCVに気持ちが傾きかけたんだけど、これはやや古い記事なので今現在の状況を調べた方が良い。↓
http://qiita.com/jhorikawa/items/fafee3373eb3ccef02c8

結論から言うと、OpenCV for Unityを使うことにしました。以下調べたことを順にメモ書き。


OpenCV plus Unity

OpenCV plus Unityは、OpenCVをC#で使えるようにポートしたオープンソースプロジェクトOpenCVSharpがベースになっている。



公式ドキュメントはこちら↓
http://paperplanetools.com/cvwd_doc/html/class_open_cv_sharp_1_1_cv2.html


スポンサーリンク

OpenCV for Unity

OpenCV for Unityは3つの中で断然有名。
https://enoxsoftware.com/opencvforunity/

上記の古いQiita記事では、OpenCVのJavaラッパーをポートしていると書かれていたけど、どうやら現在は違う模様。API仕様はOpenCV Javaに合わせているけど、バックの実装は直にC++っぽいです。処理のオーバーヘッドはあんまり気にしなくて良さそう。(少なくとも、C++でOpenCV vizモジュールを使って可視化するより高速だった)



現在はOpenCVの最新版3.3.04.0.0に対応。UnityのTexture型とOpenCVのMat型を相互に変換するUtilメソッドが用意されているのも魅力。

公式ドキュメントはこちら↓
http://enoxsoftware.github.io/OpenCVForUnity/3.0.0/doc/html/index.html

Emgu CV v3.x

Emgu CV v3.xQiita記事にある通り、OpenCVをクロスプラットフォーム化するオープンソースの.NETラッパープロジェクトEmguCVがベースとなっている。

EmguCVのソースコードはこちら↓
https://github.com/emgucv/emgucv

EmguCV自体はオープンソースだけど、商用利用するには有償版を購入する必要があり、Windows版のみ商用利用不可の無償版が配布されている。↓
https://sourceforge.net/projects/emgucv/

公式ドキュメントはこちら↓
http://www.emgu.com/wiki/index.php/Documentation

決め手

で、オイラ的には、UnityのTexture型とOpenCVのMat型の相互変換メソッドがすでに用意されているOpenCV for Unityがベストに思えたのだ。だって頻繁に行う処理だし。
OpenCV for Unityならユーザーが多くてアップデート頻度も高そうだ。

ところで、どのAssetもopencv_contribArUcoは含まれているのが面白い。AR機能の需要は高いんですかね。



スポンサーリンク

関連記事

  • OpenCVで顔のランドマークを検出する『Facemark API』
  • 手を動かしながら学ぶデータマイニング
  • clearcoat Shader
  • Mayaのシェーディングノードの区分
  • Seleniumを使ったFXや株の自動取引
  • Google Colaboratoryで遊ぶ準備
  • CNN Explainer:畳み込みニューラルネットワーク可視化ツール
  • SONYの自律型エンタテインメントロボット『aibo』
  • iPadをハンディ3Dスキャナにするガジェット『iSense 3D Scanner』
  • 続・ディープラーニングの資料
  • ManuelBastioniLAB:人体モデリングできるBlenderアドオン
  • C++ 標準テンプレートライブラリ (STL)
  • 顔検出・認識のAPI・ライブラリ・ソフトウェアのリスト
  • U-Net:ディープラーニングによるSemantic Segmentation手法
  • Googleが画像解析旅行ガイドアプリのJetpac社を買収
  • hloc:SuperGlueで精度を向上させたSfM実装
  • Amazon EC2ログイン用の秘密鍵を無くした場合の対処方法
  • オープンソースのIT資産・ライセンス管理システム『Snipe-IT』
  • Konashiを買った
  • Geogram:C++の3D幾何アルゴリズムライブラリ
  • TeleSculptor:空撮動画からPhotogrammetryするツール
  • ベイズ推定とグラフィカルモデル
  • MeshLab:3Dオブジェクトの確認・変換に便利なフリーウェア
  • NeRF (Neural Radiance Fields):機械学習による未知視点合成
  • Raspberry PiのGPIOを操作するPythonライブラリ『RPi.GPIO』の使い方
  • Mayaのプラグイン開発
  • 写真から3Dメッシュの生成・編集ができる無料ツール『Autodesk Memento』
  • Cartographer:オープンソースのSLAMライブラリ
  • iOSで使えるJetpac社の物体認識SDK『DeepBelief』
  • PGGAN:段階的に解像度を上げて学習を進めるGAN
  • 畳み込みニューラルネットワーク (CNN: Convolutional Neural Network...
  • 3Dスキャンしたテクスチャから照明を除去するUnityツール『De Lighting tool』
  • OpenCVでカメラ画像から自己位置認識 (Visual Odometry)
  • UnrealCLR:Unreal Engineで.NET Coreを利用できるプラグイン
  • NumSharp:C#で使えるNumPyライクな数値計算ライブラリ
  • 網元AMIで作ったWordpressサイトのインスタンスをt1microからt2microへ移行した
  • Autodesk Mementoでゴジラを3次元復元する
  • trimesh:PythonでポリゴンMeshを扱うライブラリ
  • UnityからROSを利用できる『ROS#』
  • Open3D:3Dデータ処理ライブラリ
  • SegNet:ディープラーニングによるSemantic Segmentation手法
  • BlenderのPython環境にPyTorchをインストールする
  • モバイルバージョンを終了