3Dモデルを立体視で確認できるVRアプリを作っている

10月に衝動的にUnityでVR(Meta Quest 2)アプリを作り始めた↓



作り始めた理由は、ZBrushで作った3Dオブジェクトを立体視で確認する目的に丁度良いレンダリング品質の既存アプリが存在しなかったからだけど、その後Adobe MAX 2022Adobe Substance 3D Modelerが発表された↓



このAdobe Substance 3D Modelerが3D形状を把握しやすいレンダリング品質のアプリならそれで十二分な気はするけど、自分のニッチな用途に特化した小さなアプリを作ってみれば色々と学びもあるだろう。
と思って作り続けることにする。



作り始めてからちょいちょいUnityのバージョンをアップデートしていて、今はUnity 2021.3.16を使っている。
かなり汚いコードだけど、とりあえず当初欲かった機能は実装した↓

実装した機能

  • PC上のファイルをブラウジングして任意のOBJファイルを選択する (Runtime File Browserを使用)
  • OBJファイルをロードする (Runtime OBJ Importerを使用)
  • 3Dモデルの初期配置・スケールを自動調整し、高さ30cmサイズで目の前に表示する
  • コントローラー操作で3Dモデルを移動・スケールできる (Oculus Integrationを使用)
  • サーフェイサーを吹いた状態風の質感でレンダリングする (Unity-GeoAOを使用)

OBJファイルのブラウジングとロード

ファイルのブラウジング機能を提供するRuntime File BrowserはAssetStoreで配布されている無料アセットだけど、UnitySimpleFileBrowserとしてGitHubにもあるので、URLを指定してPackageManager経由でインストールした。
ファイルエクスプローラー的なCanvasがPrefabとして用意されており、それをsceneに配置してPhysic RaycasterをOVR Raycasterに置き換え、UIHelper.prefabもsceneに配置すれば簡単に導入できる。
ブラウジングして選択したOBJファイルをRuntime File Browserでロードするようにした↓


3Dモデルを掴む、ピンチ操作で拡大・縮小

意外にも、コントローラーでオブジェクトを掴む機能の実装に1番苦戦した。Oculus Integrationを利用してはいるけど、今の実装が適切なのか分からない。車輪の再発明になってるかも。
付属のScriptそのままでは、動的にロードしたGameObjectを掴めるようにするのが難しかったので。
2つのコントローラーを使ったピンチ操作(?)で3Dモデルの拡大・縮小もできるようにした↓


3Dモデルをサーフェイサー風の質感でレンダリングする

当初、サーフェイサー風の質感にするためにSSAO(screen-space ambient occlusion)で陰影を付けていたが、オブジェクトをコントローラーで掴んで自由に移動できるようになったら、左右の視点で陰影の付き方が極端に違ってチラつく現象に遭遇しやすくなった。SSAOは視点に依存した近似手法なのでしかたがないのだが、形状を確認する上でAmbient Occlusionは重要なので、視線に依存しない方法でAmbient Occlusionを近似する方法を探した。
幸い、今回作ろうとしているアプリでは3Dオブジェクトの形状が動的に変形したりしないので、陰影をテクスチャとしてキャッシュして処理負荷を抑える方法が使える。

少し調べてみたら、GitHubでUnity-GeoAOというプロジェクトを見つけたので移植↓



まだAmbient Occlusionのサンプリング範囲や強度のパラメータが無いので、見た目の微調整ができない。
順にURP標準のレンダリング、URP + SSAO、URP + GeoAO↓







AO無しでも悪くない気がしてきている(笑)

今後

欲しかった機能をとりあえず実装して全体像はできたけど、まだソースコードはほぼ1つのファイルのベタ書き。ここからブラッシュアップというか、コードのリファクタリングと欠けている細々とした機能を追加してユーザビリティを改善して行こうと思う。まだQuest Linkを利用したPCVR状態だけど、できればQuest 2単体で動く軽量なアプリにしたい。

修正・追加したい機能

  • 移動・スケール後の3Dオブジェクトを初期位置に戻す (リセット)
  • 別の3Dオブジェクトをロードする
  • 3Dオブジェクトの拡大・縮小中にスケール数値を表示する

UltimateXRというフレームワークを使えばリッチなUIを手軽に実現できるだろうか。
Quest 2単体で動作させるためのパフォーマンスチューニングはだいぶ後回しになりそう。

見えてきた課題

HMDで高さ30cmのフィギュアサイズで3Dオブジェクトを表示して見て、HMDの特性というか欠点にも気づいた。
現行のHMDは、目の前に小さなオブジェクトを表示して注視する用途は想定されておらず、目から1メートル以上離れた距離のオブジェクトを見る前提で作られている。目からの距離30cm程度に配置された小物を見ようとしても、左右の目の焦点が上手く合わない。

以前3Dディスプレイを使ってみた時にも似た問題に直面したな↓



この問題をソフトウェア的に、コンテンツ制作側で解決する方法がないかちょっと考えてみたい。

ここまで、進捗を動画キャプチャしてTwitterの進捗アカウントに投稿していたけど、OculusMirrorの画面をWindows標準の動画キャプチャ機能で録画したものを編集していた。録画が何故か全画面にならないので、Adobe Premiere Proで一部分だけを切り抜く手間がかかっていた。
Adobe Premiere ProでもHMDを使ってVR動画のプレビューができることを知った↓
https://helpx.adobe.com/jp/premiere-pro/using/immersive-video.html

もしや、Unity Recorderパッケージを使えばもっと手軽にキャプチャできるのだろうか。
https://www.vjyou.com/2022/08/unity360.html

GitHub

オイラはGitHubでUnityプロジェクトのバージョン管理をしているのだが、Unityプロジェクトだとファイルサイズの大きいアセットが多くなるからLFSの容量制限がシビアですぐに上限に達する。



GitHubのアカウントは一応Proだけど、Git LFSには1つのアカウントで1GBまでしか使えないらしい。他のリポジトリを削除したりなんやらで対処してるけど、こういう本筋と無関係の手間でやる気を失う(笑)

このVRアプリの開発記事まとめページ↓
3Dモデルを立体視で確認できるVRアプリ
Quest2を発売と同時に購入しておきながら、大して活用しないまま2年以上経った。衝動的に、VRで3DCGの造形を立体視で確認できるアプリをUnityで作り始めた。

関連記事

OpenMVSのサンプルを動かしてみる

iPhone・iPod touchで動作する知育ロボット『ROMO』

Faceshiftで表情をキャプチャしてBlender上でMakeHumanのメッシュを動かすデモ

フリーのUV展開ツール Roadkill UV Tool

自前Shaderの件 解決しました

ROSの薄い本

フルCGのウルトラマン!?

ZBrushでゴジラ2001を作ってみる 身体のSubToolを分割

html5のcanvasの可能性

OpenCV 3.3.0-RCでsfmモジュールをビルド

2012 昨日のクローズアップ現代を見た

Autodesk Mementoでゴジラを3次元復元する

AndroidもopenGLも初心者さ (でもJavaは知ってるよ)

ドラマ『ファーストクラス』のモーショングラフィックス

TeleSculptor:空撮動画からPhotogrammetryするツール

ZBrushで仮面ライダー3号を造る 仮面編 PolyGroup作成に再挑戦

書籍『ROSプログラミング』

CycleGAN:ドメイン関係を学習した画像変換

Python.NET:Pythonと.NETを連携させるパッケージ

Webスクレイピングの勉強会に行ってきた

iPhoneアプリ開発 Xcode 5のお作法

ZBrushでアマビエを作る その2

ZBrushでアヴァン・ガメラを作ってみる 首回りの修正・脚の作り込み

ZBrushでアヴァン・ガメラを作ってみる 壊れたデータの救出

ヘッドマウントディスプレイとビジュアリゼーションの未来

ZBrushのZScript入門

UnityプロジェクトをGitHubで管理する

Blender 2.8がついに正式リリース!

クラスの基本

トランスフォーマー/ロストエイジのメイキング

Transformers ”Reference & Bulid” Siggraph 2007

『手を動かしながら学ぶエンジニアのためのデータサイエンス』ハンズオンセミナーに行ってきた

Model View Controller

ZBrushトレーニング

ZBrushのお勉強

参考になりそうなサイト

BGSLibrary:OpenCVベースの背景差分ライブラリ

Amazon Web ServicesでWordPress

映画『ブレードランナー 2049』のVFX

OpenMayaのPhongShaderクラス

Shader.jp:リアルタイム3DCG技術をあつかうサイト

畳み込みニューラルネットワーク (CNN: Convolutional Neural Network...

コメント