3Dモデルを立体視で確認できるVRアプリを作っている

10月に衝動的にUnityでVR(Meta Quest 2)アプリを作り始めた↓



作り始めた理由は、ZBrushで作った3Dオブジェクトを立体視で確認する目的に丁度良いレンダリング品質の既存アプリが存在しなかったからだけど、その後Adobe MAX 2022Adobe Substance 3D Modelerが発表された↓



このAdobe Substance 3D Modelerが3D形状を把握しやすいレンダリング品質のアプリならそれで十二分な気はするけど、自分のニッチな用途に特化した小さなアプリを作ってみれば色々と学びもあるだろう。
と思って作り続けることにする。


スポンサーリンク


作り始めてからちょいちょいUnityのバージョンをアップデートしていて、今はUnity 2021.3.16を使っている。
かなり汚いコードだけど、とりあえず当初欲かった機能は実装した↓

実装した機能

  • PC上のファイルをブラウジングして任意のOBJファイルを選択する (Runtime File Browserを使用)
  • OBJファイルをロードする (Runtime OBJ Importerを使用)
  • 3Dモデルの初期配置・スケールを自動調整し、高さ30cmサイズで目の前に表示する
  • コントローラー操作で3Dモデルを移動・スケールできる (Oculus Integrationを使用)
  • サーフェイサーを吹いた状態風の質感でレンダリングする (Unity-GeoAOを使用)

OBJファイルのブラウジングとロード

ファイルのブラウジング機能を提供するRuntime File BrowserはAssetStoreで配布されている無料アセットだけど、UnitySimpleFileBrowserとしてGitHubにもあるので、URLを指定してPackageManager経由でインストールした。
ファイルエクスプローラー的なCanvasがPrefabとして用意されており、それをsceneに配置してPhysic RaycasterをOVR Raycasterに置き換え、UIHelper.prefabもsceneに配置すれば簡単に導入できる。
ブラウジングして選択したOBJファイルをRuntime File Browserでロードするようにした↓


3Dモデルを掴む、ピンチ操作で拡大・縮小

意外にも、コントローラーでオブジェクトを掴む機能の実装に1番苦戦した。Oculus Integrationを利用してはいるけど、今の実装が適切なのか分からない。車輪の再発明になってるかも。
付属のScriptそのままでは、動的にロードしたGameObjectを掴めるようにするのが難しかったので。
2つのコントローラーを使ったピンチ操作(?)で3Dモデルの拡大・縮小もできるようにした↓


3Dモデルをサーフェイサー風の質感でレンダリングする

当初、サーフェイサー風の質感にするためにSSAO(screen-space ambient occlusion)で陰影を付けていたが、オブジェクトをコントローラーで掴んで自由に移動できるようになったら、左右の視点で陰影の付き方が極端に違ってチラつく現象に遭遇しやすくなった。SSAOは視点に依存した近似手法なのでしかたがないのだが、形状を確認する上でAmbient Occlusionは重要なので、視線に依存しない方法でAmbient Occlusionを近似する方法を探した。
幸い、今回作ろうとしているアプリでは3Dオブジェクトの形状は動的に変形したりしないので、陰影をテクスチャとしてキャッシュする方法は使える。

少し調べて見たら、GitHubでUnity-GeoAOというプロジェクトを見つけたので移植↓


スポンサーリンク



まだAmbient Occlusionのサンプリング範囲や強度のパラメータが無いので、見た目の微調整ができない。
順にURP標準のレンダリング、URP + SSAO、URP + GeoAO↓







AO無しでも悪くない気もしている(笑)

今後

欲しかった機能をとりあえず実装して全体像はできたけど、まだソースコードはほぼ1つのファイルのベタ書き。ここからブラッシュアップというか、コードのリファクタリングと欠けている細々とした機能を追加してユーザビリティを改善して行こうと思う。まだQuest Linkを利用したPCVR状態だけど、できればQuest 2単体で動く軽量なアプリにしたい。

修正・追加したい機能

  • 移動・スケール後の3Dオブジェクトを初期位置に戻す (リセット)
  • 別の3Dオブジェクトをロードする
  • 3Dオブジェクトの拡大・縮小中にスケール数値を表示する

UltimateXRというフレームワークを使えばリッチなUIを手軽に実現できるだろうか。
Quest 2単体で動作させるためのパフォーマンスチューニングはだいぶ後回しになりそう。

見えてきた課題

HMDで高さ30cmのフィギュアサイズで3Dオブジェクトを表示して見て、HMDの特性というか欠点にも気づいた。
現行のHMDは、目の前に小さなオブジェクトを表示して注視する用途を想定しておらず、目から1メートル以上離れた距離のオブジェクトを見る前提で作られている。目からの距離30cm程度に配置された小物を見ようとしても、左右の目の焦点が上手く合わない。

以前3Dディスプレイを使ってみた時にも似た問題に直面したな↓



この問題をソフトウェア的に、コンテンツ制作側で解決する方法がないかちょっと考えてみたい。

ここまで、進捗を動画キャプチャしてTwitterの進捗アカウントに投稿していたけど、OculusMirrorの画面をWindows標準の動画キャプチャ機能で録画したものを編集していた。録画が何故か全画面にならないので、Adobe Premiere Proで一部分だけを切り抜く手間がかかっていた。Adobe Premiere ProでもHMDを使ってVR動画のプレビューができることを知った↓
https://helpx.adobe.com/jp/premiere-pro/using/immersive-video.html

もしや、Unity Recorderパッケージを使えばもっと手軽にキャプチャできるのだろうか。
https://www.vjyou.com/2022/08/unity360.html

GitHub

オイラはGitHubでUnityプロジェクトのバージョン管理をしているのだが、Unityプロジェクトだとファイルサイズの大きいアセットが多くなるからLFSの容量制限がシビアですぐに上限に達する。



GitHubのアカウントは一応Proだけど、Git LFSには1つのアカウントで1GBまでしか使えないらしい。他のリポジトリを削除したりなんやらで対処してるけど、こういう本筋と無関係の手間でやる気を失う(笑)


スポンサーリンク

関連記事

Unityで強化学習できる『Unity ML-Agents』
OpenMVS:Multi-View Stereoによる3次元復元ライブラリ
チャットツール用bot開発フレームワーク『Hubot』
CGWORLD CHANNEL 第21回ニコ生配信は『シン・ゴジラ』メイキングスペシャル!
ZBrushトレーニング
MFnMeshクラスのsplit関数
Point Cloud Utils:Pythonで3D点群・メッシュを扱うライブラリ
参考になりそうなサイト
UnityユーザーがUnreal Engineの使い方を学ぶには?
昔Mayaでモデリングしたモデルをリファインしてみようか
Accord.NET Framework:C#で使える機械学習ライブラリ
書籍『仕事ではじめる機械学習』を読みました
ZBrushのTranspose Masterでポーズを付ける
Oculus Goで特撮作品を鑑賞する
色んな三面図があるサイト
iPhoneアプリ開発 Xcode 5のお作法
天体写真の3D動画
OpenSfM:PythonのStructure from Motionライブラリ
Russian3DScannerのトポロジー転送ツール『WrapX』
Raspberry PiのGPIOを操作するPythonライブラリ『RPi.GPIO』の使い方
Blenderでよく使うaddon
立体視を試してみた
ZBrushでアヴァン・ガメラを作ってみる
WordPress on Google App Engineを1週間運用してみて
OpenCVで平均顔を作るチュートリアル
BlenderのPython環境にPyTorchをインストールする
ZBrushでゴジラ2001を作ってみる 側頭部のボリュームを探る
PyTorch3D:3Dコンピュータービジョンライブラリ
WebGL開発に関する情報が充実してきている
Houdiniのライセンスの種類
画像生成AI Stable Diffusionで遊ぶ
映像ビジネスの未来
.NETで使えるTensorFlowライクなニューラルネットワークライブラリ『NeuralNetwo...
書籍『メイキング・オブ・ピクサー 創造力をつくった人々』を読んだ
Autodesk Mementoでゴジラを3次元復元する
OpenCVで動画の手ぶれ補正
Python.NET:Pythonと.NETを連携させるパッケージ
OANDAのfxTrade API
読みやすくて高速なディープラーニングのフレームワーク『Caffe』
ZBrushでアヴァン・ガメラを作ってみる 歯を配置
単純に遊びに行くのはだめなのか?
「ベンジャミン·バトン数奇な人生」でどうやってCGの顔を作ったのか

コメント