Self-Study

二次型分佈,非中心卡方分佈

  • December 29, 2015

定義。認為.

然後

即,分佈與自由度和非中心性參數.

我試圖(至少)找到以下定理的證明:

定理。認為是一個正定對稱矩陣,是一個具有秩的對稱矩陣, 和.

然後

我不明白這個定義是如何工作的。在我看來,為了使我上面給出的定義與定理一起工作,我們必須“分裂”進入權力(無論這意味著什麼),即看,除非我真的在這裡錯過了什麼。

這只是我在自我閱讀,所以任何可以幫助我證明這一點的資料或任何人都將不勝感激。

為了證明這個定理,我們需要以下中間結果。

定理。讓 $ \mathbf{y} \sim N_n \left(0, \sigma^2 \mathbf{I}_n \right) $ 然後讓 $ Q = \sigma^{-2} \mathbf{y}^{\prime} \mathbf{A} \mathbf{y} $ 對於對稱矩陣 $ \mathbf{A} $ 等級 $ r $ . 那麼如果 $ \mathbf{A} $ 是冪等的,Q 有一個 $ \chi^2 (r) $ 分配。

該定理也擴展到另一個方向,但我們只需要充分性,因此我們將證明這一點,我們將使用冪等矩陣的特徵值-特徵向量分解來證明這一點。

重要的是要注意,我們首先考慮均值為零的情況。之後我們將放寬這個假設。但是現在回想一下,對於秩為 r 的方陣,比如說 $ \mathbf{A} $

$$ \mathbf{A} = \sum_{i=1}^{r} \lambda_i \mathbf{c}_i \mathbf{c}_i^{\prime} $$

其中 lambda 是特徵值,而 $ \mathbf{c}_i $ s 對應的特徵向量。到目前為止,一切都很標準。現在如果我們另外限制 $ \mathbf{A} $ 要對稱,會發生兩件事:

  1. 特徵值是實值
  2. 不同特徵值對應的特徵向量是正交的

這些是所謂的線性代數譜定理的結果,您可以參考任何好的教科書來獲得證明。這對我們有什麼作用?您將看到為什麼需要對稱性。讓我們寫下我們的分解 $ \mathbf{A} $ 以我們的二次形式,看看會發生什麼。

$$ \sigma^{-2} \mathbf{y}^{\prime} \mathbf{A} \mathbf{y} = \sigma^{-2} \mathbf{y}^{\prime} \left( \sum_{i=1}^r \lambda_i \mathbf{c}_i \mathbf{c}i^{\prime} \right) \mathbf{y} = \sum{i=1}^r \lambda_i \left( \sigma^{-1} \mathbf{c}_i^{\prime} \mathbf{y} \right)^2 \tag{1} $$

我們已經將我們的二次形式寫成正交軸上的加權平方投影。現在讓我們研究一下分佈 $ \mathbf{c}_i ^{\prime} \mathbf{y} $ 和 $ \mathbf{c}_j ^{\prime} \mathbf{y} $ , $ i \neq j $ . 按基本規則

$$ \sigma^{-1} \mathbf{c}_i ^{\prime} \mathbf{y} \sim N(0, \underbrace{\mathbf{c}_i^{\prime} \mathbf{c}i}{=1} ) $$

因為特徵向量不是唯一的,因此可以在不失一般性的情況下重新縮放以使其長度為 1。下一個,

$$ Cov\left(\sigma^{-1} \mathbf{c}_i ^{\prime} \mathbf{x} , \sigma^{-1} \mathbf{c}_j ^{\prime} \mathbf{x} \right) = \sigma^{-2}\mathbf{c}_i ^{\prime} I_n \mathbf{c}_j = 0, \ \ i \neq j $$

由譜定理的第二個含義。因此,我們的總和是不相關的。按照正常情況,它們也是獨立的。很容易看出,總和由加權組成 $ \chi^2 $ 隨機變量(由特徵值加權)。在這個線程中,有人詢問這是否遵循 $ \chi^2 $ 分配不管。答案當然是否定的。

輸入冪等性。從冪等矩陣的定義和特徵值/特徵向量問題很容易得出,冪等矩陣的特徵值等於 1 或 0。由於假設矩陣 $ \mathbf{A} $ 有等級 $ r $ , 有 $ r $ 特徵值等於一。所以

$$ \sigma^{-2} \mathbf{y}^{\prime} \mathbf{A} \mathbf{y} = \sum_{i=1}^r \left( \sigma^{-1} \mathbf{c}_i^{\prime} \mathbf{y} \right)^2 \sim \chi^2 (r) $$

這樣就完成了證明。


如果向量現在會發生什麼 $ y $ 有非零的意思嗎?沒有害處,我們將使用非中心的定義 $ \chi^2 $ 分佈得出結論,如果

$$ \mathbf{y} \sim N_n \left( \boldsymbol{\mu}, \sigma^2 \mathbf{I}_n \right) $$

然後

$$ \sigma^{-2} \mathbf{y}^{\prime} \mathbf{A} \mathbf{y} ~ \sim \chi^2 \left(r, \boldsymbol{\mu}^{\prime} \mathbf{A} \boldsymbol{\mu} \right) $$

其中第二項表示非中心性參數。(由於習慣,我將跳過除法 $ 2 $ 但你可以按照自己的方式去做)。

我們現在準備證明所需的結果。

定理。認為 $ \Sigma $ 是一個 $ n \times n $ 正定對稱矩陣, $ A $ 是一個 $ n \times n $ 具有秩的對稱矩陣 $ r $ , 和 $ (A\Sigma)^2 = A\Sigma $ .

然後 $ \mathbf{y} \sim N(\boldsymbol{\mu}, \Sigma) \implies Q = \mathbf{y}^{\prime}A\mathbf{y} \sim \chi^2 \left(r, \boldsymbol{\mu}^{\prime} \mathbf{A}\boldsymbol{\mu} \right)\text{.} $

我們被賦予了

$$ \mathbf{A\Sigma A \Sigma} = \mathbf{A\Sigma} $$

由此得出

$$ \mathbf{A\Sigma A} = \mathbf{A} $$

因此我們可以將我們的二次形式改寫為

$$ Q = \left( \boldsymbol{\Sigma}^{-1/2} \mathbf{y} \right)^{\prime} \boldsymbol{\Sigma}^{1/2} \mathbf{A} \boldsymbol{\Sigma}^{1/2} \left( \boldsymbol{\Sigma}^{-1/2} \mathbf{y} \right) \tag{2} $$

由於假設 $ \boldsymbol{\Sigma} $ 是一個正定矩陣,它的平方根始終是明確定義的,您可以使用特徵值/特徵向量分解來檢查(您還可以檢查方程( $ 2 $ ) 等價於 ( $ 1 $ )!)

你當然會同意 $ \boldsymbol{\Sigma}^{-1/2} \mathbf{y} \sim N_n \left( \boldsymbol{\Sigma}^{-1/2} \boldsymbol{\mu} , \mathbf{I}_n \right) $ . 如果我們暫時假設 $ \boldsymbol{\mu}=0 $ 我們將處於第一個定理的情況,對嗎?好吧,不完全是——我們仍然必須證明中間矩陣是冪等的,但在我們的假設下這很容易。

$$ \boldsymbol{\Sigma}^{1/2} \mathbf{A} \boldsymbol{\Sigma}^{1/2} \boldsymbol{\Sigma}^{1/2} \mathbf{A} \boldsymbol{\Sigma}^{1/2} = \boldsymbol{\Sigma}^{1/2} \mathbf{A} \boldsymbol{\Sigma}^{1/2} $$

因此,如果 $ \mathbf{y} \sim N_n \left(\mathbf{0}, \boldsymbol{\Sigma} \right) $ , $ Q \sim \chi^2 \left(r \right) $ 這意味著如果我們現在切換回非零均值的情況,我們將有

$$ Q = \mathbf{y}^{\prime}\mathbf{A}\mathbf{y} \sim \chi^2 \left(r, \boldsymbol{\mu}^{\prime} \mathbf{A}\boldsymbol{\mu} \right) $$

按要求。 $ \square $

引用自:https://stats.stackexchange.com/questions/188626

comments powered by Disqus