Pca
類似於 PCA 的非正交技術
假設我有一個 2D 點數據集,我想檢測數據中所有局部最大值方差的方向,例如:
PCA 在這種情況下沒有幫助,因為它是正交分解,因此無法檢測到我用藍色表示的兩條線,而是它的輸出可能看起來像綠線所示的那條。
請推薦任何可能適合此目的的技術。謝謝。
獨立成分分析應該能夠為您提供很好的解決方案。通過假設您的測量結果來自統計獨立變量的混合,它能夠分解非正交分量(如您的情況)。
Internet 上有很多很好的教程,並且有一些免費的實現可供嘗試(例如在scikit或MDP中)。
ICA 什麼時候不工作?
與其他算法一樣,ICA 在其推導出的假設適用時是最優的。具體來說,
- 來源在統計上是獨立的
- 獨立分量是非高斯的
- 混合矩陣是可逆的
ICA 返回混合矩陣和獨立分量的估計。
當您的源是高斯時,ICA 無法找到組件。想像一下你有兩個獨立的組件,和, 哪個是. 然後,
在哪裡. 是二維向量的範數。如果它們與正交變換(例如旋轉), 我們有,,這意味著概率分佈在旋轉下沒有變化。因此,ICA 無法從數據中找到混合矩陣。