例の書籍「ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装」を一通り読み終わりました。
「あえてPythonを使わずにUnity C#で実装しながら勉強する」とか言っておきながら、結局途中でコーディングを断念。意外と面倒だったので。。。
書籍のPythonコードをUnity C#で再現しようとしてMNISTデータセットをUnityのテクスチャとして読み込むコードとかも書いたりしたんだけど、lambda式や抽象クラス、インターフェイスあたりで混乱して躓いた。改めてPythonとNumPyの記述の手軽さを理解しましたとさ。抽象度が高い代わりに読みづらくもあるんだけど。
2018年7月 追記：CNNではないけど、mattatzさんがUnity上で動くニューラルネットワークの実装を公開している。
Created GPU-based neural network implementation in #unity 🧠https://t.co/DeQAURpuLa Unity上で動くGPU使ったニューラルネットワークの実装、ひとまずgithubにあげました！CNNの実装はこれからやっていきたい⚡️ pic.twitter.com/8UKSqkznk1
— Masatatsu Nakamura (@mattatz) 2018年7月26日
MINISTデータセットをC#で読み込むやり方のサンプルあるのね↓
https://jamesmccaffrey.wordpress.com/2013/11/23/reading-the-mnist-data-set-with-c/
2019年 追記：C#で使えるNumPyライクな数値計算ライブラリを知ったので、今ならコレを使う↓
さて、書籍でCNNの仕組みまでは分かったところで、ちょっとYouTubeで調べてみたら、CNNの動作の様子を可視化してくれてる人がチラホラいる。
畳み込み層 (Convolution Layer)
こちらは畳み込み層の動作を可視化した動画↓
プーリング層 (Pooling Layer)
こちらはプーリング層の動作を可視化した動画。(最大値を取るMax-Poolingの例)
追記：こちらの記事のgifがとても分かりやすい↓
http://pynote.hatenablog.com/entry/dl-convolutional-neural-network
追記：Max Poolingの処理は、要するにモルフォロジー変換であると言われてみれば確かに↓
https://blog.shikoan.com/morphological-transformations-maxpool/
3D Visualization of a Convolutional Neural Network
こちらはWeb上でインタラクティブにCNNの動作を見れるデモ。定番のMNISTデータセットを使った手書き数字認識。
http://scs.ryerson.ca/~aharley/vis/conv/
3D Multilayer Neural Network Simulation
https://tutorials.retopall.com/index.php/2019/02/17/neural-networks/
https://tutorials.retopall.com/index.php/2019/02/24/convolutional-neural-networks/
https://tutorials.retopall.com/index.php/2019/03/01/aieditor-neural-network-editor/
3Blue1Brown
そして、数学をアニメーションで視覚的に解説するYouTubeチャンネルを発見。
https://www.youtube.com/3blue1brown
今月ちょうどニューラルネットワーク(畳み込みではないけど)の動画が公開されたところ。
2022年追記：畳み込みについての解説動画も来た↓
仕組みを理解してからだとネット上の記事も読めるようになるけど、初見だとなかなか。
https://deepage.net/deep_learning/2016/11/07/convolutional_neural_network.html
ところで、探してみると、ニューラルネットワークを可視化している人が結構いることに気づいた↓
http://hhok777.hatenablog.com/entry/2016/11/08/184233
https://www.youtube.com/user/munimunibekkan/
アルゴリズムを物理的な機械構造へ落とし込むスキルがすごい。。。
マインクラフトでの例も↓
Blender_Neural_Network
BlenderのAnimation Nodeでニューラルネットワークを表現したもの。
https://www.youtube.com/channel/UC5bSCGdcE9x9ffqqgJlGp5Q
https://animatedai.github.io/
最近知ったDrawNetというやつ↓
http://people.csail.mit.edu/torralba/research/drawCNN/drawNet.html
2023年 追記：書籍を参考にNNビジュアライザーというのを作った方がいらっしゃいます↓
https://t.co/4ODfExCdVR
ゼロから作るDeep Learningで学んだニューラルネットワークをリアルタイムにビジュアル化するサイト公開しました。
キャンバスに文字を描いたら、リアルタイムに数字を判定します。
Githubでも公開しました。https://t.co/Xw283dnO52#deeplearning #NeuralNetworks pic.twitter.com/6zbm4wqo94— Kenji Saito (@kenji_special) November 27, 2023
追記：こういうのもある↓
以前見つけたお勉強ツールのMLDemosは、各機械学習手法による処理結果の違いを可視化するツールだったけど、動作の仕組みそのものを可視化して眺めるともう一段踏み込んで理解ができるね。(MLDemosにDeepLearningは入ってなかったけど)
読書再開
ということで、再びこちらの書籍に戻る。
階層型ネットワークである畳み込みニューラルネットワークまでは分かったので、グラフィカルモデル系の相互結合型ネットワークから読書再開。
ホップフィールドネットワークの可視化動画も見つけたけど、ちょっと理解できない。。。
関連記事
Regard3D：オープンソースのStructure fro...
MVStudio：オープンソースのPhotogrammetr...
2D→3D復元技術で使われる用語まとめ
写真に3Dオブジェクトを違和感無く合成する『3DPhotoM...
OpenCVでiPhone6sのカメラをキャリブレーションす...
OpenCV3.3.0でsfmモジュールのビルドに成功！
FreeMoCap Project：オープンソースのマーカー...
Iridescence：プロトタイピング向け軽量3D可視化ラ...
全脳アーキテクチャ勉強会
Physics Forests：機械学習で流体シミュレーショ...
AR (Augmented Reality)とDR (Dim...
VGGT：マルチビュー・フィードフォワード型3Dビジョン基盤...
Point Cloud Libraryに動画フォーマットが追...
iOSで使えるJetpac社の物体認識SDK『DeepBel...
FCN (Fully Convolutional Netwo...
Unityで画面タッチ・ジェスチャ入力を扱う無料Asset『...
Houdiniのライセンスの種類
OpenCVで顔のモーフィングを実装する
ヘッドマウントディスプレイとビジュアリゼーションの未来
UnityのGlobal Illumination
RefineNet (Multi-Path Refineme...
手を動かしながら学ぶデータマイニング
機械学習での「回帰」とは？
Live CV：インタラクティブにComputer Visi...
Pylearn2：ディープラーニングに対応したPythonの...
Immersive Math：線形代数をインタラクティブに学...
3D Gaussian Splatting：リアルタイム描画...
書籍『3次元コンピュータビジョン計算ハンドブック』を購入
BlenderでPhotogrammetryできるアドオン
Unityで強化学習できる『Unity ML-Agents』
Unityからkonashiをコントロールする
コンピュータビジョンの技術マップ
ポイントクラウドコンソーシアム
データサイエンティストって何だ？
OpenGV：画像からカメラの3次元位置・姿勢を推定するライ...
CGのためのディープラーニング
Kinect for Windows v2の日本価格決定
R-CNN (Regions with CNN featur...
Google製オープンソース機械学習ライブラリ『Tensor...
OpenSfM：PythonのStructure from ...
Deep Learningとその他の機械学習手法の性能比較
Unityをレンダラとして活用する
コメント