Pca

類似於 PCA 的非正交技術

  • May 9, 2014

假設我有一個 2D 點數據集,我想檢測數據中所有局部最大值方差的方向,例如:

在此處輸入圖像描述

PCA 在這種情況下沒有幫助,因為它是正交分解,因此無法檢測到我用藍色表示的兩條線,而是它的輸出可能看起來像綠線所示的那條。

請推薦任何可能適合此目的的技術。謝謝。

獨立成分分析應該能夠為您提供很好的解決方案。通過假設您的測量結果來自統計獨立變量的混合,它能夠分解非正交分量(如您的情況)。

Internet 上有很多很好的教程,並且有一些免費的實現可供嘗試(例如在scikitMDP中)。

ICA 什麼時候不工作?

與其他算法一樣,ICA 在其推導出的假設適用時是最優的。具體來說,

  1. 來源在統計上是獨立的
  2. 獨立分量是非高斯的
  3. 混合矩陣是可逆的

ICA 返回混合矩陣和獨立分量的估計。

當您的源是高斯時,ICA 無法找到組件。想像一下你有兩個獨立的組件,和, 哪個是. 然後,

在哪裡. 是二維向量的範數。如果它們與正交變換(例如旋轉), 我們有,,這意味著概率分佈在旋轉下沒有變化。因此,ICA 無法從數據中找到混合矩陣。

引用自:https://stats.stackexchange.com/questions/97043

comments powered by Disqus