SVM (Support Vector Machine)

久しぶりの機械学習ネタ。

Deep Learningが何かと話題の昨今ですが、実用方面ではSVMやRandom Forestなどの古典的な手法が活躍しているらしい。
それなら、古典を学べば身近なところですぐに応用ができるのではないかと思い始めた。リッチな処理じゃなくて、すごく質素な単純作業か何かが自動化できたら面白いなぁ、と。(機械学習の古典的手法というとむしろニューラルネットワークの方らしいけど)

Random Forestについては前に勉強したからそれなりに理解しているので、今回はSVMについて理解を深めておこうと思う。



この記事に触発されたというのもあります。↓

C++によるSMOを用いたSVMの実装

機械学習の手法にはいろいろありますが、その中でもサポートベクトルマシン(SVM; support vector machine)は高い精度で知られる有名な手法です。
以前C++で多層パーセプトロンを実装したので、今度はSVMをC++で実装してみました。

というか、この記事で非常にわかりやすく解説されているので、もうあんまりやることがない(笑)



SVMのような古典的な手法なら、以前見つけたMLDemosというツールに実装されているので、これをいじって試してみる。



少し調べてみたら、SVMを実装したLIBSVMっていうメジャーなライブラリがあるみたい↓

LIBSVM — A Library for Support Vector Machines

LIBSVM

LIBSVMは、サポートベクトルの分類(C-SVC、NU-SVC)、回帰(イプシロン – SVR、NU-SVR)と分布推定(1クラスSVM)のための統合ソフトウェアで、マルチクラス分類をサポートしています。

ソースコードはGitHubにもある。色々な言語へのインターフェイスを用意しているみたいだけど、コアは読めなくもない量だ。
これ、javascriptでも動くのか。Wikipediaによると、Pythonの機械画集ライブラリscikit-learnもこのLIBSVMを利用しているらしい。

関連記事

手を動かしながら学ぶデータマイニング

Mitsuba 2:オープンソースの物理ベースレンダラ

自前Shaderの件 解決しました

MLDemos:機械学習について理解するための可視化ツール

Webスクレイピングの勉強会に行ってきた

C#で使える遺伝的アルゴリズムライブラリ『GeneticSh...

WordPressプラグインの作り方

ブログのデザイン変えました

OpenCVの三角測量関数『cv::triangulatep...

DCGAN (Deep Convolutional GAN)...

今年もSSII

Unityの薄い本

自前のShaderがおかしい件

OpenMesh:オープンソースの3Dメッシュデータライブラ...

BlenderでPhotogrammetryできるアドオン

3D Gaussian Splatting:リアルタイム描画...

『手を動かしながら学ぶエンジニアのためのデータサイエンス』ハ...

Verilog HDL

GoogleのDeep Learning論文

Managing Software Requirements...

ZScript

Runway ML:クリエイターのための機械学習ツール

HerokuでMEAN stack

ManimML:機械学習の概念を視覚的に説明するためのライブ...

openMVGをWindows10 Visual Studi...

マルコフ連鎖モンテカルロ法

Mayaのプラグイン開発

BGSLibrary:OpenCVベースの背景差分ライブラリ

全脳アーキテクチャ勉強会

Iterator

Pix2Pix:CGANによる画像変換

C++の抽象クラス

RSSフィードを読込んで表示するWordpressプラグイン...

続・ディープラーニングの資料

3D復元技術の情報リンク集

ニューラルネットワークと深層学習

Math Inspector:科学計算向けビジュアルプログラ...

FCN (Fully Convolutional Netwo...

Unityからkonashiをコントロールする

Unity ARKitプラグインサンプルのチュートリアルを読...

Open3D:3Dデータ処理ライブラリ

PGGAN:段階的に解像度を上げて学習を進めるGAN

コメント