Least-Squares

如何確定 GLS 是否比 OLS 有所改進?

  • June 1, 2015

我有一個多元回歸模型,可以使用 OLS 或 GLS 進行估計。GLS 的權重是外生估計的(權重的數據集與模型的數據集不同)。我試圖通過查看係數、t-stats、f-stat、, … . 我想這是一個關於重量的問題。如果我有多組權重(包括制服),我該如何選擇能夠給出“最佳”估計的組?

OLS 和 GLS 之間的真正區別在於對模型的誤差項所做的假設。在 OLS 中,我們(至少在 CLM 設置中)假設,其中 I 是單位矩陣 - 使得沒有非對角線元素不同於零。對於 GLS,情況不再如此(可能是,但 GLS = OLS)。對於 GLS,我們假設, 在哪裡是方差-協方差矩陣。

許多教科書介紹 GLS 和 WLS,這是消除異方差(或試圖消除)的 GLS 函數。這意味著通常的 t/F 統計數據對 GLS 估計有效,但對 OLS 無效。今天這不那麼麻煩了,因為您可以只計算穩健的方差估計並以此為基礎進行推斷 - 就像您通常所做的那樣。

這意味著 OLS 和 GLS 之間的差異在於估計的方差。真正的原因是,選擇 GLS 而不是 OLS 確實是為了獲得漸近效率(n 的方差較小. 重要的是要知道 OLS 估計可以是無偏的,即使基礎(真實)數據生成過程實際上遵循 GLS 模型。如果 GLS 是無偏的,那麼 OLS 也是如此(反之亦然)。

您可以很容易地證明這一點,但基本上一致性/無偏性的假設根本不依賴於估計的方差。更微妙的一點是,除非您知道實際的 GLS 函數,否則它不是無偏的,而只是一致的。

因此,我認為在 OLS 和 GLS 之間進行選擇是基於估計和是錯誤的思考方式。OLS 和 GLS 的估計應該彼此接近,如果不是在數字上,那麼在“影響”的大小上。如果不是,那麼很可能表明您有一個函數形式錯誤指定,其中您遺漏了變量。

我不知道在您的情況下排除 GLS 權重協變量是否合理 - 但也許值得嘗試將它們包括在 OLS 估計中,看看會發生什麼?它可能會讓讀者對你的結論不那麼“懷疑”(但這純粹是我的猜測)。

引用自:https://stats.stackexchange.com/questions/155031

comments powered by Disqus