Multivariate-Normal-Distribution

二次型和卡方分佈

  • October 8, 2017

這是關於二次形式和卡方分佈的演示。

讓我們拆分問題:

  1. 我們有一個具有 n 個標準化正態分佈的向量稱為. 明顯地是一個
  2. 如果我們有一個對稱的冪等矩陣(即稱為) 然後在哪裡是等級. 我得到了這個分裂矩陣與譜定理成:因此: 我們稱之為因此. 因為它是一個冪等矩陣,所以我們只有 1 或 0 作為特徵值,而 1 的數量正好是. 然後我們有現在具有不同的長度作為等級的數量. 我們倒退這個過程,我們得到:但(它們是正交的,因為我們考慮了特徵向量)所以我們有 .
  3. 現在問題來了:如果我們有一個對稱的正定矩陣我的老師告訴我是一個分配。我試圖找到一個證據,但我找不到。
  4. 我的努力是:再次使用譜定理,因此我們有:但現在是一個實數正數的對角矩陣(因為它是正定的)。

=

我們像以前一樣呼籲,因此我們有:. 假設 w 是 3 維向量,具有 3 個元素,稱為 a、b 和 c。所以

所以 在這裡我被困住了。也許最後一點是錯誤的。因此,我要求澄清並明確證明我的老師所說的話。

[編輯]

我找到了這個:

*讓 做一個標準多元正態隨機向量,即 . 讓 是正交的 實矩陣。定義

然後也 具有標準的多元正態分佈,即.* 我對此沒意見,證據在這裡:https ://www.statlect.com/probability-distributions/normal-distribution-quadratic-forms 所以我的問題會是這樣的:在哪裡並且根據這個定理因為 Q 是一個正交矩陣。所以,如果 w 是一個 3 維向量,我會有這樣的東西:

卡方分佈與加權特徵值的線性組合。我對嗎?如果我是,這個總和有特定的分佈嗎?

一般來說,二次型是一個加權和 $ \chi_1^2 $

一般情況下,這是不正確的 $ \mathbf{z}^\text{T} \mathbf{\Sigma} \mathbf{z} \sim \chi^2_p $ 對於任何對稱正定(方差)矩陣 $ \mathbf{\Sigma} $ . 使用你得到的譜定理分解這個二次形式:

$$ \begin{equation} \begin{aligned} \mathbf{z}^\text{T} \mathbf{\Sigma} \mathbf{z} = \mathbf{z}^\text{T} \mathbf{Q} \mathbf{\Lambda} \mathbf{Q}^\text{T} \mathbf{z} &= (\mathbf{Q}^\text{T} \mathbf{z})^\text{T} \mathbf{\Lambda} (\mathbf{Q}^\text{T} \mathbf{z}) \[6pt] &= \sum_{i=1}^p \lambda_i ( \mathbf{q}_i \cdot \mathbf{z} )^2, \[6pt] \end{aligned} \end{equation} $$

在哪裡 $ \mathbf{q}_1,…,\mathbf{q}_p $ 是的特徵向量 $ \mathbf{\Sigma} $ (即,列 $ \mathbf{Q} $ )。定義隨機變量 $ y_i = \mathbf{q}_i \cdot \mathbf{z} $ . 自從 $ \mathbf{\Sigma} $ 是一個實對稱矩陣,特徵向量 $ \mathbf{q}_1,…,\mathbf{q}_p $ 是正交的,這意味著 $ y_1,…,y_p \sim \text{IID N}(0,1) $ . 因此,我們有:

$$ \begin{equation} \begin{aligned} \mathbf{z}^\text{T} \mathbf{\Sigma} \mathbf{z} &= \sum_{i=1}^p \lambda_i ( \mathbf{q}i \cdot \mathbf{z} )^2 \[6pt] &= \sum{i=1}^p \lambda_i \cdot y_i^2 \[6pt] &\sim \sum_{i=1}^p \lambda_i \cdot \chi_1^2. \[6pt] \end{aligned} \end{equation} $$

我們可以看到二次型的分佈是一個加權和 $ \chi_1^2 $ 隨機變量,其中權重是方差矩陣的特徵值。在這些特徵值都是一的特殊情況下,我們確實得到了 $ \mathbf{z}^\text{T} \mathbf{\Sigma} \mathbf{z} \sim \chi_n^2 $ , 但總的來說這個結果不成立。事實上,我們可以看到,一般來說,二次型分佈為每個具有一個自由度的卡方隨機變量的加權和。這種形式的一般分佈很複雜,它的密度函數沒有封閉的形式表示。 Bodenham 和 Adams (2015)研究了該分佈的一些近似值,並提供了與模擬的比較。

引用自:https://stats.stackexchange.com/questions/306937

comments powered by Disqus