Pca

的特徵向量之間的關係1ñXX⊤1ñXX⊤frac{1}{N}XX^top和1ñX⊤X1ñX⊤Xfrac{1}{N}X^top X在 PCA 的背景下

  • January 25, 2016

在 Christopher Bishop 的《模式識別和機器學習》一書中,關於 PCA 的部分包含以下內容:

給定一個居中的數據矩陣具有協方差矩陣 ,特徵向量方程為:

定義, Bishop 聲稱如果和有單位長度,則:

平方根從何而來?


編輯:

特別是為什麼以下無效:

使用

結果相同,但沒有平方根。

這參考了Bishop 書中*關於高維數據的簡短章節 12.1.4 PCA 。*我可以看到這部分可能有點混亂,因為 Bishop 在和使用稍微不一致的符號。

該部分是關於協方差矩陣的特徵向量之間的關係和 Gram 矩陣的特徵向量(在 PCA 的上下文中)。讓是單位長度的特徵向量:

如果我們把這個方程乘以從左邊開始:

我們看到是一個特徵向量.

**但是,它不會有單位長度!**事實上,讓我們計算它的長度:

所以平方長度為等於. 因此,如果我們想改造成單位長度的協方差矩陣特徵向量,我們需要將其歸一化為單位長度: (請注意,上面沒有使用你引用的定義。相反,我們直接從單位長度開始. 我相信這可能是你困惑的根源。主教用途本節前面的定義,但與這個特定的論點不再相關。)

引用自:https://stats.stackexchange.com/questions/192372

comments powered by Disqus