SVM (Support Vector Machine)

久しぶりの機械学習ネタ。

Deep Learningが何かと話題の昨今ですが、実用方面ではSVMやRandom Forestなどの古典的な手法が活躍しているらしい。
それなら、古典を学べば身近なところですぐに応用ができるのではないかと思い始めた。リッチな処理じゃなくて、すごく質素な単純作業か何かが自動化できたら面白いなぁ、と。(機械学習の古典的手法というとむしろニューラルネットワークの方らしいけど)

Random Forestについては前に勉強したからそれなりに理解しているので、今回はSVMについて理解を深めておこうと思う。



この記事に触発されたというのもあります。↓

C++によるSMOを用いたSVMの実装

機械学習の手法にはいろいろありますが、その中でもサポートベクトルマシン(SVM; support vector machine)は高い精度で知られる有名な手法です。
以前C++で多層パーセプトロンを実装したので、今度はSVMをC++で実装してみました。

というか、この記事で非常にわかりやすく解説されているので、もうあんまりやることがない(笑)



SVMのような古典的な手法なら、以前見つけたMLDemosというツールに実装されているので、これをいじって試してみる。



少し調べてみたら、SVMを実装したLIBSVMっていうメジャーなライブラリがあるみたい↓

LIBSVM — A Library for Support Vector Machines

LIBSVM

LIBSVMは、サポートベクトルの分類(C-SVC、NU-SVC)、回帰(イプシロン – SVR、NU-SVR)と分布推定(1クラスSVM)のための統合ソフトウェアで、マルチクラス分類をサポートしています。

ソースコードはGitHubにもある。色々な言語へのインターフェイスを用意しているみたいだけど、コアは読めなくもない量だ。
これ、javascriptでも動くのか。Wikipediaによると、Pythonの機械画集ライブラリscikit-learnもこのLIBSVMを利用しているらしい。

関連記事

Pythonのソースコードに特化した検索エンジン『Nulle...

FacebookがDeep learningツールの一部をオ...

Google製オープンソース機械学習ライブラリ『Tensor...

libigl:軽量なジオメトリ処理ライブラリ

CGALDotNet:計算幾何学ライブラリ CGALのC#ラ...

Math.NET Numerics:Unityで使える数値計...

AMIMOTO(PVM版)で作成したインスタンスをAMIMO...

オープンソースの物理ベースレンダラ『Mitsuba』をMay...

PyDataTokyo主催のDeep Learning勉強会

WordPressプラグインの作り方

TorchStudio:PyTorchのための統合開発環境と...

PyMC:Pythonのベイズ統計ライブラリ

組み込み向けのWindows OS 『Windows Emb...

WordPress on Google App Engine...

Unity ARKitプラグインサンプルのドキュメントを読む

Composition Rendering:Blenderに...

KelpNet:C#で使える可読性重視のディープラーニングラ...

『手を動かしながら学ぶエンジニアのためのデータサイエンス』ハ...

FCN (Fully Convolutional Netwo...

adskShaderSDK

Facebookの顔認証技術『DeepFace』

Faster R-CNN:ディープラーニングによる一般物体検...

Theia:オープンソースのStructure from M...

Verilog HDL

OpenAR:OpenCVベースのマーカーARライブラリ

ドットインストールのWordPress入門レッスン

ニューラルネットワークと深層学習

Python.NET:Pythonと.NETを連携させるパッ...

続・ディープラーニングの資料

OpenCVの顔検出過程を可視化した動画

TensorSpace.js:ニューラルネットワークの構造を...

OpenCVで顔のランドマークを検出する『Facemark ...

JavaScriptとかWebGLとかCanvasとか

RefineNet (Multi-Path Refineme...

UnityでShaderの入力パラメータとして行列を渡す

Maya API Reference

ブログが1日ダウンしてました

書籍『イラストで学ぶ ディープラーニング』

2D→3D復元技術で使われる用語まとめ

iOSで使えるJetpac社の物体認識SDK『DeepBel...

iPhone・iPod touchで動作する知育ロボット『R...

Human Generator:Blenderの人体生成アド...

コメント