OpenSfM:PythonのStructure from Motionライブラリ

スウェーデンのスタートアップMapillary社が公開しているOpenSfMというStructure from Motion用のライブラリがあるそうです。ライセンスは簡易BSDライセンス(Simplified BSD License)。2条項BSDライセンス(BSD 2-Clause license)とも呼ばれるやつで、著作権を表示すれば商用利用、修正、配布、サブライセンスOKだ。

OpenSfM

OpenSfM

OpenSfMは、OpenCVを用いてPythonで書かれたStructure from Motionライブラリです。このライブラリは、複数枚の画像からカメラの姿勢と3Dシーンを再構成するための処理パイプラインとして機能します。ロバストでスケーラブルな復元パイプラインの構築を重視したStructure from Motionの基本モジュール(特徴検出/マッチング、minimal solvers)で構成されています。
また、外部センサー(例えば、GPS、加速度センサー)の値を統合し、地理的な位置合わせや、よりロバストな結果を得ることができます。JavaScriptのビューアを設けており、モデルのプレビューや、パイプラインのデバッグに利用できます。

要はスマートフォンなどで撮影した複数枚の画像からGoogleストリートビューのようなものを作成するためのライブラリということのようです。画像だけでなくGPSや加速度センサーの情報も利用するあたり、とてもストリートビュー的な規模を意識している感じ。専用の撮影車両に依存しない、スマホユーザー達による民主的なストリートビュー作成ツールと言ったところ。
https://blog.mapillary.com/update/2014/12/15/sfm-preview.html



このライブラリは、クラウドソーシングでストリート映像を作成するプロジェクトのためのものですかね。↓
http://gigazine.net/news/20140903-mapillary/
https://jp.techcrunch.com/2018/09/15/2018-09-13-mapillary-rekognition-amazon/

このライブラリを使うには以下の依存ライブラリも必要となります。

依存ライブラリ

ソースコードはGitHubにある↓
https://github.com/mapillary/OpenSfM

OpenCVだけでなくOpenGVも使っているんですね。



QiitaではDocker上で動かす方法を書いている人がいる。
http://qiita.com/takahi/items/c0b21714a62935f67606

名称の”SfM”は”Structure from Motion”の略だと思うけど、カメラ位置の推定と撮影画像の補間までもStructure from Motionと呼ぶんですかね。てっきり3次元形状復元までの処理も含めてStructure from Motionだと思っていた。

このライブラリのリポジトリをGourceで可視化した動画を見つけた。2013年から始まってるのね。

https://www.youtube.com/watch?v=7YHvFVwUwcw

むちゃくちゃ巨大なライブラリというわけでもなさそうだな。

コンピュータビジョン最先端ガイド5 (CVIMチュートリアルシリーズ)

関連記事

MB-Lab:Blenderの人体モデリングアドオン

html5のcanvasの可能性

Qlone:スマホのカメラで3Dスキャンできるアプリ

iPhone x ロボットハッカソン~RomoのiPhone用SDKで目覚ましアプリを作る~

iPhoneで3D写真が撮れるアプリ『seene』

3D Gaussian Splatting:リアルタイム描画できるRadiance Fields

UnityのMonoBehaviourクラスをシングルトン化する

Autodesk Mementoでゴジラを3次元復元する

オープンソースの顔の動作解析ツールキット『OpenFace』

Unity ARKitプラグインサンプルのチュートリアルを読む

C#で使える遺伝的アルゴリズムライブラリ『GeneticSharp』

OpenCVでiPhone6sのカメラをキャリブレーションする

スクラッチで既存のキャラクターを立体化したい

SegNet:ディープラーニングによるSemantic Segmentation手法

OpenCV 3.3.0-RCでsfmモジュールをビルド

Faceshiftで表情をキャプチャしてBlender上でMakeHumanのメッシュを動かすデモ

Live CV:インタラクティブにComputer Visionコーディングができるツール

WordPressプラグインによるサイトマップの自動生成

python-twitterで自分のお気に入りを取得する

WordPress on Google App Engineを1週間運用してみて

CGAN (Conditional GAN):条件付き敵対的生成ネットワーク

ManuelBastioniLAB:人体モデリングできるBlenderアドオン

ZBrushのZScript入門

Adobe MAX 2015

Multi-View Environment:複数画像から3次元形状を再構築するライブラリ

「ベンジャミン·バトン数奇な人生」でどうやってCGの顔を作ったのか

OpenCVのfindEssentialMat関数を使ったサンプルを読んでみる

Raspberry Pi

定数

UnityでPoint Cloudを表示する方法

Kinect for Windows v2の日本価格決定

Python2とPython3

まだ続くブログの不調

3Dグラフィックスの入門書

画像生成AI Stable Diffusionで遊ぶ

Unityで強化学習できる『Unity ML-Agents』

MeshroomでPhotogrammetry

Raspberry PiのGPIOを操作するPythonライブラリ『RPi.GPIO』の使い方

FacebookがDeep learningツールの一部をオープンソース化

viser:Pythonで使える3D可視化ライブラリ

Unityの薄い本

OpenGV:画像からカメラの3次元位置・姿勢を推定するライブラリ

コメント