Regression

線性回歸的平方和誤差分佈?

  • March 20, 2012

我知道樣本方差的分佈

這是因為可以用矩陣形式表示, (其中 A:對稱),它可以再次表示為:(其中 Q:正交矩陣,D:對角矩陣)。 關於什麼, 給定假設?

我想

但我不知道如何證明或展示它。

它是否完全按照?

我們可以用更一般的情況證明這一點變量通過使用“帽子矩陣”及其一些有用的屬性。由於使用了譜分解,這些結果通常更難以用非矩陣術語表示。

現在在最小二乘的矩陣版本中,帽子矩陣是在哪裡擁有行和列(一列)。為方便起見假設全列排名 - 否則您可以替換按列排名在下面的。我們可以將擬合值寫為或以矩陣表示法. 使用它,我們可以將平方和寫為:

在哪裡是階單位矩陣. 最後一步源於以下事實:是一個冪等矩陣,如

現在,冪等矩陣的一個簡潔屬性是它們的所有特徵值都必須等於 0 或 1。讓表示的歸一化特徵向量有特徵值,我們可以證明如下:

(注意不能為零,因為它必須滿足) 現在因為是冪等的,也是,因為

我們還具有特徵值之和等於矩陣蹟的性質,並且

因此一定有特徵值等於和特徵值等於.

現在我們可以使用譜分解在哪裡和是正交的(因為是對稱的)。另一個有用的屬性是. 這有助於縮小範圍矩陣

我們得到:

現在,在我們有的模型下並使用標準正態理論,我們有顯示的組件是獨立的。現在使用有用的結果,我們有為了. 卡方分佈與誤差平方和的自由度緊隨其後。

引用自:https://stats.stackexchange.com/questions/24921

comments powered by Disqus