3Dモデルを立体視で確認できるVRアプリを作っている

10月に衝動的にUnityでVR(Meta Quest 2)アプリを作り始めた↓

先日、Oculus改めMeta Quest Proが発表された。今回はさすがに価格が高過ぎて手が出せない。Oculus Meta Quest 2を購入してからもう2年経つ。併せて購入したEliteストラップは早々に割れてしまった。今はZBr...

作り始めた理由は、ZBrushで作った3Dオブジェクトを立体視で確認する目的に丁度良いレンダリング品質の既存アプリが存在しなかったからだけど、その後Adobe MAX 2022でAdobe Substance 3D Modelerが発表された↓

このAdobe Substance 3D Modelerが3D形状を把握しやすいレンダリング品質のアプリならそれで十二分な気はするけど、自分のニッチな用途に特化した小さなアプリを作ってみれば色々と学びもあるだろう。
と思って作り続けることにする。

作り始めてからちょいちょいUnityのバージョンをアップデートしていて、今はUnity 2021.3.16を使っている。
かなり汚いコードだけど、とりあえず当初欲かった機能は実装した↓

実装した機能

PC上のファイルをブラウジングして任意のOBJファイルを選択する (Runtime File Browserを使用)
OBJファイルをロードする (Runtime OBJ Importerを使用)
3Dモデルの初期配置・スケールを自動調整し、高さ30cmサイズで目の前に表示する
コントローラー操作で3Dモデルを移動・スケールできる (Oculus Integrationを使用)
サーフェイサーを吹いた状態風の質感でレンダリングする (Unity-GeoAOを使用)

OBJファイルのブラウジングとロード

ファイルのブラウジング機能を提供するRuntime File BrowserはAssetStoreで配布されている無料アセットだけど、UnitySimpleFileBrowserとしてGitHubにもあるので、URLを指定してPackageManager経由でインストールした。
ファイルエクスプローラー的なCanvasがPrefabとして用意されており、それをsceneに配置してPhysic RaycasterをOVR Raycasterに置き換え、UIHelper.prefabもsceneに配置すれば簡単に導入できる。
ブラウジングして選択したOBJファイルをRuntime File Browserでロードするようにした↓

Unity Simple File BrowserでOBJファイルをブラウジングして、Runtime OBJ ImporterでMeshを読み込んで空間に配置できるようになったhttps://t.co/fMaoPafd5w https://t.co/giaJBnXtQK #unity3d #Quest2 pic.twitter.com/qauSYksSmQ

— NegativeMind WIP (@NegativeMindWIP) October 25, 2022

3Dモデルを掴む、ピンチ操作で拡大・縮小

意外にも、コントローラーでオブジェクトを掴む機能の実装に1番苦戦した。Oculus Integrationを利用してはいるけど、今の実装が適切なのか分からない。車輪の再発明になってるかも。
付属のScriptそのままでは、動的にロードしたGameObjectを掴めるようにするのが難しかったので。
2つのコントローラーを使ったピンチ操作(？)で3Dモデルの拡大・縮小もできるようにした↓

コントローラーで掴んで動かしたり、ピンチ操作(？)で拡大縮小できるようになった。
自由に動かせるとSSAOのアーティファクトが目立つ。#unity3d #Quest2 pic.twitter.com/DHEA0XOgV8

— NegativeMind WIP (@NegativeMindWIP) November 2, 2022

3Dモデルをサーフェイサー風の質感でレンダリングする

当初、サーフェイサー風の質感にするためにSSAO(screen-space ambient occlusion)で陰影を付けていたが、オブジェクトをコントローラーで掴んで自由に移動できるようになったら、左右の視点で陰影の付き方が極端に違ってチラつく現象に遭遇しやすくなった。SSAOは視点に依存した近似手法なのでしかたがないのだが、形状を確認する上でAmbient Occlusionは重要なので、視線に依存しない方法でAmbient Occlusionを近似する方法を探した。
幸い、今回作ろうとしているアプリでは3Dオブジェクトの形状は動的に変形したりしないので、陰影をテクスチャとしてキャッシュする方法は使える。

少し調べて見たら、GitHubでUnity-GeoAOというプロジェクトを見つけたので移植↓

SSAOをやめてVertex単位でのAmbient Occlusionを試してみた。
オブジェクトを動かした時のアーティファクトは無くなったものの、そもそもAOの効果が薄いので何か実装ミスってるかも。#unity3d #Quest2 https://t.co/pl9E1hMGvt pic.twitter.com/3a2JYVi2l6

— NegativeMind WIP (@NegativeMindWIP) November 4, 2022

まだAmbient Occlusionのサンプリング範囲や強度のパラメータが無いので、見た目の微調整ができない。
順にURP標準のレンダリング、URP + SSAO、URP + GeoAO↓

AO無しでも悪くない気がしてきている(笑)

今後

欲しかった機能をとりあえず実装して全体像はできたけど、まだソースコードはほぼ1つのファイルのベタ書き。ここからブラッシュアップというか、コードのリファクタリングと欠けている細々とした機能を追加してユーザビリティを改善して行こうと思う。まだQuest Linkを利用したPCVR状態だけど、できればQuest 2単体で動く軽量なアプリにしたい。

修正・追加したい機能

移動・スケール後の3Dオブジェクトを初期位置に戻す (リセット)
別の3Dオブジェクトをロードする
3Dオブジェクトの拡大・縮小中にスケール数値を表示する

UltimateXRというフレームワークを使えばリッチなUIを手軽に実現できるだろうか。
Quest 2単体で動作させるためのパフォーマンスチューニングはだいぶ後回しになりそう。

見えてきた課題

HMDで高さ30cmのフィギュアサイズで3Dオブジェクトを表示して見て、HMDの特性というか欠点にも気づいた。
現行のHMDは、目の前に小さなオブジェクトを表示して注視する用途を想定しておらず、目から1メートル以上離れた距離のオブジェクトを見る前提で作られている。目からの距離30cm程度に配置された小物を見ようとしても、左右の目の焦点が上手く合わない。

以前3Dディスプレイを使ってみた時にも似た問題に直面したな↓

立体視を試してみた

最近、立体視用のモニタ(偏光メガネで見るやつ)を1つ後輩から強奪した譲り受けたんで、適当に視差を作って色々試してみた。(youtubeは立体視にも対応してるんですね)

この問題をソフトウェア的に、コンテンツ制作側で解決する方法がないかちょっと考えてみたい。

ここまで、進捗を動画キャプチャしてTwitterの進捗アカウントに投稿していたけど、OculusMirrorの画面をWindows標準の動画キャプチャ機能で録画したものを編集していた。録画が何故か全画面にならないので、Adobe Premiere Proで一部分だけを切り抜く手間がかかっていた。Adobe Premiere ProでもHMDを使ってVR動画のプレビューができることを知った↓
https://helpx.adobe.com/jp/premiere-pro/using/immersive-video.html

もしや、Unity Recorderパッケージを使えばもっと手軽にキャプチャできるのだろうか。
https://www.vjyou.com/2022/08/unity360.html