Pca

形成矩形的二維數據的第一主成分?

  • February 8, 2015

在二維空間中形成“填充”矩形的點的第一主成分是什麼?

它是對角線之一嗎?或者前兩個主要成分基本上是矩形的邊?

想像一下數據點填充坐標系中心的二維矩形,其邊沿坐標軸定向:從到沿著-軸,並從到沿著-軸。

上的投影是具有方差的均勻分佈. 上的投影也是有方差的均勻分佈. 自從和顯然不相關(如果這不明顯,請問自己相關性應該是正的還是負的?…由於對稱性它只能為零),它們之間的協方差為零。這產生協方差矩陣

PCA 的任務是對協方差矩陣進行對角化。但是這個已經是對角線了!這意味著不需要旋轉,並且-軸和-axis 本身就是主軸。如果例如,那麼-axis 是第一台 PC。 這可能有點違反直覺:似乎對角線上的投影應該比長邊上的投影具有更大的方差;但事實上並非如此。


獎勵:賈尼別科夫效應

您的意思似乎是 3D 長方體而不是 2D 矩形。論點當然保持不變:協方差矩陣是但仍然是對角線,主軸是坐標軸。

順便說一句,在力學中,關於具有三個不同慣性矩的旋轉固體(這是方差的力學模擬)存在一種奇怪的效果。事實證明,繞轉動慣量最大和最小的軸的轉動是穩定的,但繞轉動慣量中間的軸轉動是不穩定的。此外,一個旋轉的物體會經歷突然的“翻轉”,這就是所謂的賈尼別科夫效應——在一位俄羅斯宇航員在太空中觀察到它之後。旋轉一本書或乒乓球拍時,可以很容易地觀察到它。請參閱 mathoverflow 和physics.SE 上的以下精彩主題以及這些視頻:

引用自:https://stats.stackexchange.com/questions/136781

comments powered by Disqus

相關問答