t_wの輪郭

あれ

SVM

2024/3/16 14:13:00

サポートベクターマシン (Support Vector Machine, SVM)

線形二値分類器を作るアルゴリズム。

SVMではクラスAとクラスBからの距離が最大になる識別平面を求める。これによって汎化性能が高い識別面が得られる傾向がある。

カーネルトリック『サポートベクターマシン入門』ラグランジュの未定乗数法

カーネルトリック

2024/3/16 15:01:00

SVMなどで非線形な分布のクラスを分類できるようにする技法。PCAでも使えるっぽい雰囲気がある。

入力ベクトルを高次元空間に飛ばして、そこで内積を取るみたいなことをしてる。
なぜそういうことをするかというと、「入力ベクトルの特徴量を増やしたいけどデータ量と計算量は増やしたくない」という要請に基づく。


入力ベクトルを高次元空間に飛ばす関数をカーネル関数と呼ぶ(たぶん)。
カーネル関数には多項式カーネルガウスカーネルシグモイドカーネルがよく用いられる(らしい)。