顔追跡による擬似3D表示『Dynamic Perspective』

Amazonの新しいスマホに搭載されてちょっと話題になったけど、カメラから画像認識技術を使ってユーザーの視線を計算すれば、2Dの普通のディスプレイでも疑似的に3D映像を表示することができる。Amazonはこの疑似表示方法をDynamic Perspectiveと呼んでいる。
これは、対象ユーザーが1人の場合に可能な方法で、ユーザーの目の移動に合わせてディスプレイに表示する映像を変化させることで、奥行きを感じさせるもの。スマホのように手に持つなど、目とディスプレイの位置関係が手振れなどで常に変動する環境が前提。両者の位置が静止した関係では立体感を表現できない。



https://www.youtube.com/watch?v=RvOIpN7ZiVg

個人的にこの考え方は非常に好き。この考え方というのは、表示を3Dにすることでよりリッチにしようって考えのこと。3Dテレビが盛り上がらなかったせいなのか、割と「3Dは無意味」って認識が根強いんだけど、コンテンツを作りづらいのが普及の一番の足かせだったと思う。日常生活で空間認識している状態に近い情報提示手段の方が、より直観的なUIだとオイラは考えている。
もちろん2Dの方が相応しい場合もあるとは思うけど、3Dだから可能になることもたくさんあるんじゃないだろうか。文書みたいなデスクトップのパラダイムで生まれた情報は確かに2Dの方が良いんだけどさ。

アマゾン初のスマートフォン「Fire Phone」レビュー(前編)–3D効果やデザインなど
アマゾン初のスマートフォン「Fire Phone」レビュー(後編)–アプリや機能、性能など

ちなみに、カメラ画像からの顔追跡には日本のオムロン社のエンジンが使われているらしい。同じ原理でiPadでもソフトウェア的に3D表示を実装することができる。
iPadで実装した例↓



顔や視線でコントロール コンピュータビジョンのセカイ – 今そこにあるミライ

関連記事

openMVG:複数視点画像から3次元形状を復元するライブラリ

Photogrammetry (写真測量法)

ZBrush用トポロジー転送プラグイン『ZWrap Plugin for ZBrush』

DCGAN (Deep Convolutional GAN):畳み込みニューラルネットワークによる敵...

Transformers ”Reference & Bulid” Siggraph 2007

Qlone:スマホのカメラで3Dスキャンできるアプリ

ラクガキの立体化 進捗

デザインのリファイン再び

FCN (Fully Convolutional Network):ディープラーニングによるSema...

ZBrushでアヴァン・ガメラを作ってみる 下アゴの付け根を修正

After Effects全エフェクトの解説(6.5)

HD画質の無駄遣い その2

3D Gaussian Splatting:リアルタイム描画できるRadiance Fields

GAN (Generative Adversarial Networks):敵対的生成ネットワーク

OpenCV 3.1から追加されたSfMモジュール

ZBrushで仮面ライダー3号を造る 仮面編 失敗のリカバー

Texturing & Modeling A Procedural ApproachをGoo...

OpenCVで平均顔を作るチュートリアル

ハリウッド版「GAIKING」パイロット映像

ZBrushでアヴァン・ガメラを作ってみる 歯を配置

UnityのAR FoundationでARKit 3

SculptrisとBlenderで作ったGodzilla 2014 (Fan Made)

色んな三面図があるサイト

YOLO (You Only Look Once):ディープラーニングによる一般物体検出手法

Maya LTのQuick Rigを試す

ZBrushのハードサーフェイス用ブラシ

TVML (TV program Making language)

MeshLab:3Dオブジェクトの確認・変換に便利なフリーウェア

TensorFlowでCGを微分できる『TensorFlow Graphics』

2D→3D復元技術で使われる用語まとめ

3D復元技術の情報リンク集

BlenderでPhotogrammetryできるアドオン

PGGAN:段階的に解像度を上げて学習を進めるGAN

ヘッドマウントディスプレイとビジュアリゼーションの未来

『スター・ウォーズ フォースの覚醒』のVFXブレイクダウン まとめ

CGAN (Conditional GAN):条件付き敵対的生成ネットワーク

Geogram:C++の3D幾何アルゴリズムライブラリ

ポリゴンジオメトリ処理ライブラリ『pmp-library (Polygon Mesh Process...

Ambient Occlusionを解析的に求める

Unreal Engineの薄い本

ZBrushでゴジラ2001を作ってみる 身体のバランスを探る

Alice Vision:オープンソースのPhotogrammetryフレームワーク

コメント