Pca
的特徵向量之間的關係1ñXX⊤1ñXX⊤frac{1}{N}XX^top和1ñX⊤X1ñX⊤Xfrac{1}{N}X^top X在 PCA 的背景下
在 Christopher Bishop 的《模式識別和機器學習》一書中,關於 PCA 的部分包含以下內容:
給定一個居中的數據矩陣具有協方差矩陣 ,特徵向量方程為:
定義, Bishop 聲稱如果和有單位長度,則:
平方根從何而來?
編輯:
特別是為什麼以下無效:
使用
結果相同,但沒有平方根。
這參考了Bishop 書中*關於高維數據的簡短章節 12.1.4 PCA 。*我可以看到這部分可能有點混亂,因為 Bishop 在和使用稍微不一致的符號。
該部分是關於協方差矩陣的特徵向量之間的關係和 Gram 矩陣的特徵向量(在 PCA 的上下文中)。讓是單位長度的特徵向量:
如果我們把這個方程乘以從左邊開始:
我們看到是一個特徵向量.
**但是,它不會有單位長度!**事實上,讓我們計算它的長度:
所以平方長度為等於. 因此,如果我們想改造成單位長度的協方差矩陣特徵向量,我們需要將其歸一化為單位長度: (請注意,上面沒有使用你引用的定義。相反,我們直接從單位長度開始. 我相信這可能是你困惑的根源。主教用途本節前面的定義,但與這個特定的論點不再相關。)