kpca算法原理

1、

通過核函數計算矩陣 ，其元素為 。其中 和 為原空間的樣本， 是核函數。

2、

計算K的特徵值，並從大到小進行排列。找出由特徵值對應的特徵向量 (表示第 個特徵向量)，並對 進行歸一化( )。

3、

原始樣本在第 個非主成分下的座標為: 這裏的 是指第i個樣本

原理：KPCA是線性的，其對於非線性數據往往顯得無能為力(雖然這二者的主要目的是降維，而不是分類，但也可以用於分類)，其中很大一部分原因是，KPCA能夠挖掘到數據集中藴含的非線性信息。

一、KPCA較PCA存在的創新點: 1. 為了更好地處理非線性數據，引入非線性映射函數 ，將原空間中的數據映射到高維空間，注意，這個 是隱性的，我們不知道，也不需要知道它的具體形式是啥。 2.引入了一個定理:空間中的任一向量(哪怕是基向量)，都可以由該空間中的所有樣本線性表示，這點對KPCA很重要，我想大概當時那個大牛想出KPCA的時候，這點就是它最大的靈感吧。話説這和”稀疏“的思想比較像。