製造業ica和pca是什麼意思

來源:魅力女性吧 2.57W
製造業ica和pca是什麼意思

PCA和ICA是兩種常用的降維方法。

PCA:principal component analysis ,主成分分析

ICA :Independent component analysis,獨立成分分析

PCA,ICA都是統計理論當中的概念,在機器學習當中應用很廣,比如圖像,語音,通信的分析處理。

PCA是找出信號當中的不相關部分(正交性),對應二階統計量分析。PCA的實現一般有兩種,一種是用特徵值分解去實現的,一種是用奇異值(SVD)分解去實現。特徵值分解也有很多的侷限,比如説變換的矩陣必須是方陣,SVD沒有這個限制。

PCA的問題其實是一個基的變換,使得變換後的數據有着最大的方差。方差的大小描述的是一個變量的信息量,我們在講一個東西的穩定性的時候,往往説要減小方差,如果一個模型的方差很大,那就説明模型不穩定了。但是對於我們用於機器學習的數據(主要是訓練數據),方差大才有意義,不然輸入的數據都是同一個點,那方差就為0了,這樣輸入的多個數據就等同於一個數據了。

ICA是找出構成信號的相互獨立部分(不需要正交),對應高階統計量分析。ICA理論認為用來觀測的混合數據陣X是由獨立元S經過A線性加權獲得。ICA理論的目標就是通過X求得一個分離矩陣W,使得W作用在X上所獲得的信號Y是獨立源S的最優逼近,該關係可以通過下式表示:

Y = WX = WAS , A = inv(W)

ICA相比與PCA更能刻畫變量的隨機統計特性,且能抑制高斯噪聲。

熱門標籤