書籍『ゼロから作るDeep Learning』で自分なりに学ぶ

もう1年以上前になりますが、書籍「イラストで学ぶ ディープラーニング」を購入して少しずつ読み進めていたのです。↓



ところが、読み進めている途中で壁にぶち当たりました。この書籍、途中からどんどん数式率が上がって行き、あんまりイラストで教えてくれなくなるんですよ(笑)

数式が苦手だから「イラストで学ぶ」に期待していたのですが、考えが甘かったようです。
載っているサンプルコードは各種Deep Learningライブラリの使い方なので、肝心の仕組みは当然隠蔽されていて、そこから仕組みを理解するのは難しい。(ライブラリの使い方を覚えられる分実践的なんだけどね)

なので、実装しながら仕組みを理解していく方針に切り替えることにした。
ということで、こちらの書籍に頼ることにしました↓ (すぐ書籍買っちゃう)

ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装

Pythonのサンプルコードと、書籍の正誤表はGitHubにある↓
https://github.com/oreilly-japan/deep-learning-from-scratch
https://github.com/oreilly-japan/deep-learning-from-scratch/wiki/errata

これでディープラーニングを作れる(笑)



書籍のサンプルコードはPythonですが、そこは慣れたUnity(というかC#)環境に置き換えて学ぼうと思い、PythonのNumPyに代わる数値計算ライブラリを探していたのでした。
Math.NET Numerics:Unityで使える数値計算ライブラリ
立て続けにUnityの話題ですが。数学的なことをUnityで勉強しようかなという気分になってきた。お勉強用途だと最近はPython、というかPythonのNumPyが手軽で良く使われてるイメージ。Unityでも使える数値計算ライブラリが無い...


で、Math.NET Numerics導入後に少し調べたら、似た発想の人がいた↓
http://tnakamura.hatenablog.com/entry/2016/12/05/perceptron
http://tnakamura.hatenablog.com/entry/2016/12/08/sigmoid-relu-softmax
http://tnakamura.hatenablog.com/entry/2016/12/15/mnist
http://tnakamura.hatenablog.com/entry/2016/12/16/three-layer-neural-network
http://tnakamura.hatenablog.com/entry/2017/01/30/loss-function
http://tnakamura.hatenablog.com/entry/2017/02/08/numerical-differentiation
http://tnakamura.hatenablog.com/entry/2017/02/10/numeric-gradient
http://tnakamura.hatenablog.com/entry/2017/02/15/gradient-descent
http://tnakamura.hatenablog.com/entry/2017/02/20/gradient-simplenet
https://github.com/snaga/DeepLearning_C_Sharp

せっかくなので実装の参考にさせていただこう。Math.NET Numericsの使い方を知るのに良いサンプルだ。
Unity上で動作の仕組みを可視化できたら最高なんだが、そこまで行けるだろうか。

2019年 追記:今ならMath.NET Numericsじゃなくて、このNumSharpを使った方が良いと思う↓
NumSharp:C#で使えるNumPyライクな数値計算ライブラリ
C#で書かれたNumPy風の数値計算ライブラリ。Apache License 2.0だそうです。NumSharpNumSharpは.NET StandardをターゲットとしたNumPyのC#ポートです。NumSharpはC#で科学計算を行う...

パーセプトロン、ニューラルネットワークのイメージ

書籍とは関係ないけど、パーセプトロン、ニューラルネットワークの働きをビジュアル化するとこんなイメージらしい↓



色んなアルゴリズムをこんな感じで可視化できると理解が捗るだろうなぁ。

関連記事

このブログのデザインに飽きてきた

Windows10でPyTorchをインストールしてVSCodeで使う

YOLO (You Only Look Once):ディープラーニングによる一般物体検出手法

SSD (Single Shot Multibox Detector):ディープラーニングによる一般...

KelpNet:C#で使える可読性重視のディープラーニングライブラリ

Pythonの自然言語処理ライブラリ『NLTK(Natural Language Toolkit)』

SSII2014 チュートリアル講演会の資料

画像生成AI Stable Diffusionで遊ぶ

Unity ARKitプラグインサンプルのドキュメントを読む

書籍『メイキング・オブ・ピクサー 創造力をつくった人々』を読んだ

CGALDotNet:計算幾何学ライブラリ CGALのC#ラッパー

FCN (Fully Convolutional Network):ディープラーニングによるSema...

PyMC:Pythonのベイズ統計ライブラリ

それぞれの媒質の屈折率

Unreal Engine 5の情報が公開された!

まだまだ続く空想科学読本

NeRF (Neural Radiance Fields):深層学習による新規視点合成

写真に3Dオブジェクトを違和感無く合成する『3DPhotoMagic』

PythonのHTML・XMLパーサー『BeautifulSoup』

Alice Vision:オープンソースのPhotogrammetryフレームワーク

PGGAN:段階的に解像度を上げて学習を進めるGAN

iOSデバイスと接続して連携するガジェットの開発方法

書籍『開田裕治 怪獣イラストテクニック』

iPhoneアプリ開発 Xcode 5のお作法

Qlone:スマホのカメラで3Dスキャンできるアプリ

オープンソースの人体モデリングツール『MakeHuman』のAPI開発プロジェクトがスタート

プログラミングスキルとは何か?

OpenCV 3.1のsfmモジュールのビルド再び

Unite 2014の動画

viser:Pythonで使える3D可視化ライブラリ

iPhone・iPod touchで動作する知育ロボット『ROMO』

UnityでShaderの入力パラメータとして行列を渡す

IronPythonを使ってUnity上でPythonのコードを実行する

SDカードサイズのコンピューター『Intel Edison』

RefineNet (Multi-Path Refinement Network):ディープラーニン...

OpenCV 3.1とopencv_contribモジュールをVisual Studio 2015で...

iOSで使えるJetpac社の物体認識SDK『DeepBelief』

ZBrushで作った3Dモデルを立体視で確認できるVRアプリを作る

OpenCV3.3.0でsfmモジュールのビルドに成功!

Unityで強化学習できる『Unity ML-Agents』

Mechanizeで要認証Webサイトをスクレイピング

libigl:軽量なジオメトリ処理ライブラリ

コメント