UnrealCV:コンピュータビジョン研究のためのUnreal Engineプラグイン

ROS#もそうですが、ロボット制御ソフトウェアの開発、特にコンピュータビジョン関係は学習やテスト用の画像収集がボトルネックで、最近は学習や動作のシミュレーション環境にCGを活用する例が増えている。



このUnrealCVはUnrealEngineをコンピュータビジョンの研究で使うためのUnrealEngine用プラグイン↓

UnrealCV

UnrealCV

UnrealCVは、コンピュータビジョンの研究者がUnreal Engine 4(UE4)でバーチャルワールドを構築するのに役立つオープンソースプロジェクトです。UE4のプラグインとして以下の機能を提供します:

  1. バーチャルワールドを対話的に操作するためのUnrealCVコマンドセット
  2. Caffeなどの外部プログラムとUE4間の通信

UnrealCVは2つの方法で使用できます。
1つ目は、UnrealCVを組み込んだコンパイル済みゲームバイナリを使用することです。これはただゲームを実行するのと同じくらい簡単で、Unreal Engineに関する知識は必要ありません。
2つ目は、UnrealCVプラグインをUnreal Engine 4(UE4)にインストールし、UE4のエディタを新しいバーチャルワールドを構築するために使用することです。

UnrealCVの使用方法については、Tutorial: Getting Startedをお読みください。

arXivで2016年に公開されたドキュメントがある。
https://arxiv.org/abs/1609.01326

アーキテクチャを見ると、ゲームエンジンとコンピュータービジョンアルゴリズム間はTCP通信なのね。

architecture of UnrealCV


スポンサーリンク


スポンサーリンク


データ収集の問題だけでなく、自動運転のための学習や動作テストとかは大事故にもつながりかねないので、ゲームエンジンでシミュレーションするのは自然な流れかも。
CG空間なら同じシチュエーションを正確に繰り返せるのもメリットですね。



https://dev.classmethod.jp/articles/unrealcv-unreal-engine-for-computer-vision-project/

Microsoftが開発した自動運転シミュレーターAirSimも最初はUnrealEngine製だった。(今はUnity版もある)
https://github.com/Microsoft/AirSim





https://blogs.unity3d.com/jp/2018/11/08/jump-start-your-autonomous-simulation-development-with-unitys-simviz-solution-template/
https://blogs.unity3d.com/jp/2018/11/14/airsim-on-unity-experiment-with-autonomous-vehicle-simulation/

UnrealROXというシミュレーターもあるらしい↓
https://sim2realai.github.io/UnrealROX/

追記:NVIDIAからディープラーニング学習用のデータを合成するUE4プラグインNVIDIA Deep learning Dataset Synthesizer (NDDS)が配布されている↓



スポンサーリンク

関連記事

OpenGV:画像からカメラの3次元位置・姿勢を推定するライブラリ

布地のシワの法則性

『ピクサー展』へ行ってきた

Phongの表現力パネェ 材質別のPhong Shader用パラメータ一覧

Theia:オープンソースのStructure from Motionライブラリ

PythonでBlenderのAdd-on開発

レンダラ制作はOpenGL とか DirectX を使わなくてもできるんだぜ

ZBrushで仮面ライダー3号を造る 仮面編

CycleGAN:ドメイン関係を学習した画像変換

OpenSfM:PythonのStructure from Motionライブラリ

iPadをハンディ3Dスキャナにするガジェット『iSense 3D Scanner』

SSII 2014 デモンストレーションセッションのダイジェスト動画

ZBrushのZmodelerとDynamic Subdivisionを学ぶ

中学3年生が制作した短編映像作品『2045』

Raytracing Wiki

シン・ゴジラのファンアート

TensorSpace.js:ニューラルネットワークの構造を可視化するフレームワーク

AR (Augmented Reality)とDR (Diminished Reality)

OpenCV 3.3.0 contribのsfmモジュールのサンプルを動かしてみる

ポリゴンジオメトリ処理ライブラリ『pmp-library (Polygon Mesh Process...

映画『シン・ウルトラマン』 メイキング記事まとめ

iOSで使えるJetpac社の物体認識SDK『DeepBelief』

ManimML:機械学習の概念を視覚的に説明するためのライブラリ

『ローグ・ワン/スター・ウォーズ・ストーリー』"あのキャラクター"のメイキング

Mayaでリアルな布の質感を作るチュートリアル

Photogrammetry (写真測量法)

adskShaderSDK

ZBrushでアヴァン・ガメラを作ってみる 口内の微調整・身体のライン修正

Autodesk CompositeとAutodesk MatchMoverが無料

Photoshopで作る怪獣特撮チュートリアル

Point Cloud Consortiumのセミナー「3D点群の未来」に行ってきたよ

オープンソースのネットワーク可視化ソフトウェアプラットフォーム『Cytoscape』

ハリウッド版「GAIKING」パイロット映像

Fast R-CNN:ディープラーニングによる一般物体検出手法

OpenCV 3.1のsfmモジュールを試す

Google製オープンソース機械学習ライブラリ『TensorFlow』のWindows版が公開された

NeRF (Neural Radiance Fields):深層学習による新規視点合成

OpenMVSのサンプルを動かしてみる

ZBrush用トポロジー転送プラグイン『ZWrap Plugin for ZBrush』

WebGL開発に関する情報が充実してきている

UnityユーザーがUnreal Engineの使い方を学ぶには?

素敵なパーティクル

コメント