機械学習について理解するための可視化ツール『MLDemos』

たまたま面白いツールを見つけた。機械学習のパラメータをいじるとインタラクティブに学習結果が可視化して見れるお勉強アプリ。

MLDemos – A visualization tool for machine learning

MLDemosは、機械学習でのクラス分類、回帰、クラスタリング、次元削減、力学系、報酬最大化を行うそれぞれのアルゴリズムのパラメータが、学習結果にどのように影響しているのかを勉強・理解するための教材として開発されたオープンソースの可視化ツールです。
MLDemosはオープンソースで、個人・アカデミック用途なら無料で利用できます。

可視化結果が美しい。

ペイント感覚でデータの分布を作成できるのも面白いね。

MLDemos

初学者が機械学習のイメージを掴むにはちょうどいいかもしれない。パラメータの調整の感覚も分かってくるかも。プロットしたデータを3Dでグリグリ回して見れるのが個人的に好き。
残念ながらDeep Learningは実装されてないけど、結構いろんな手法が実装されてるみたい。

実装されているアルゴリズム一覧

クラス分類

Support Vector Machine (SVM)
(C, nu, Pegasos)

Relevance Vector Machine (RVM)

Gaussian Mixture Models (GMM)

Multi-Layer Perceptron + BackPropagation

Gentle AdaBoost + Naive Bayes

Approximate K-Nearest Neighbors (KNN)

Gaussian Process Classification (GP)

Random Forests

回帰

Support Vector Regression (SVR)

Relevance Vector Regression (RVR)

Gaussian Mixture Regression (GMR)

MLP + BackProp

Approximate KNN

Gaussian Process Regression (GPR)

Sparse Optimized Gaussian Processes (SOGP)

Locally Weighed Scatterplot Smoothing (LOWESS)

Locally Weighed Projection Regression (LWPR)

力学系

スポンサーリンク

GMM+GMR

LWPR

SVR

SEDS

SOGP (Slow!)

MLP

KNN

Augmented-SVM (ASVM)

クラスタリング

K-Means

Soft K-Means

Kernel K-Means

K-Means++

GMM

One Class SVM

FLAME

DBSCAN

射影

Principal Component Analysis (PCA)

Kernel PCA

Independent Component Analysis (ICA)

Canonical Correlation Analysis (CCA)

Linear Discriminant Analysis (LDA)

Fisher Linear Discriminant

EigenFaces to 2D (using PCA)

報酬最大化 (強化学習)

Random Search

Random Walk

PoWER

Genetic Algorithms (GA)

Particle Swarm Optimization

Particle Filters

Donut

Gradient-Free Methods (nlopt)

オイラはまだそれぞれの手法の日本語名を知らない…

謝辞に書かれているこのツールの実装に使われたライブラリがまた面白そう。

謝辞

このプログラムに搭載されているそれぞれのアルゴリズムを実装してくださった方々の労力無しにこのプログラムは完成しませんでした。

Florent D’Hallouin (GMM + GMR) – LASA

Dan Grollman (SOGP) – LASA

Mohammad Khansari (SEDS + DSAvoid) – LASA

Ashwini Shukla (ASVM, ARD Kernels) – LASA

Stephane Magnenat (ESMLR) – website

Chih-Chung Chang と Chih-Jen Lin (libSVM) – website

David Mount と Sunik Arya (ANN library) – website

Davis E. King (DLIB) – website

Stefan Klanke と Sethu Vijayakumar (LWPR) – website

Robert Davies (Newmat) – website

JF Cardoso (ICA) – website

Steven G. Johnson (NLOpt) – website

The WillowGarage crowd (OpenCV) – website

Trolltech/Nokia/Digia (Qt) – website

一部のアイコンの作者 – website

スイス連邦工科大学ローザンヌ校の2012年MLクラスの博士課程の学生達(Julien Eberle, Pierre-Antoine Sondag, Guillaume deChambrier, Klas Kronander, Renaud Richardet, Raphael Ullman)

また、LASAのサポート・開発チーム：Christophe Paccolat, Nicolas Sommer, Otpal Vittozの協力無しではこれほどのパフォーマンスのプログラムにはならなかったでしょう。