協方差矩陣的逆對數據有什麼影響？（直覺地）

我很好奇它的性質. 任何人都可以直觀地告訴一些關於“什麼是說數據？”

編輯：

感謝您的回复

在學習了一些很棒的課程之後，我想補充幾點：

1. 它是信息的度量，即是沿方向的信息量.
2. **對偶性：**因為是正定的，所以是，所以它們是點積範數，更準確地說它們是彼此的對偶範數，所以我們可以推導出正則化最小二乘問題的 Fenchel 對偶，並對對偶問題進行最大化。我們可以選擇其中任何一個，這取決於他們的條件。
3. **希爾伯特空間：**列（和行）和跨越同一個空間。因此，在表示與或者
4. **貝葉斯統計：**範數在貝葉斯統計中佔有重要地位。即它決定了我們在先驗中有多少信息，例如，當先驗密度的協方差像 我們沒有提供信息（或者可能是 Jeffreys 之前的）
5. **頻率統計：**它與 Fisher 信息密切相關，使用 Cramer-Rao 界。實際上，fisher 信息矩陣（對數似然梯度與其自身的外積）是 Cramer-Rao 約束的，即（wrt 正半定錐，iewrt 濃度橢球）。所以當最大似然估計是有效的，即數據中存在最大信息，因此頻率主義制度是最優的。簡而言之，對於一些似然函數（請注意，似然的函數形式完全取決於假設生成數據的概率模型，即生成模型），最大似然是有效且一致的估計器，就像老闆一樣規則。（很抱歉過度殺傷它）

它是一種精確度的度量，就像是分散度的量度。

更詳細地說，是衡量變量如何圍繞均值（對角線元素）分散以及它們如何與其他變量（非對角線）元素共同變化的量度。離散度越大，它們與平均值的距離越遠，它們與其他變量的共同變化（絕對值）越大，它們“一起移動”的趨勢就越強（取決於相同或相反的方向，具體取決於協方差的符號）。

相似地， 是衡量變量圍繞均值（對角線元素）的緊密程度以及它們與其他變量（非對角線元素）不共同變化的程度的度量。因此，對角線元素越高，變量圍繞均值聚集的越緊密。非對角線元素的解釋更加微妙，我建議您參考其他答案以獲得該解釋。

引用自：https://stats.stackexchange.com/questions/73463