Multiple-Regression

三明治估計直覺

  • February 25, 2013

維基百科和 R 三明治包小插圖提供了有關支持 OLS 係數標準誤差的假設和三明治估計器的數學背景的良好信息。不過,我仍然不清楚如何解決殘差異方差問題,可能是因為我一開始並不完全理解標準 OLS 係數方差估計。

三明治估計器背後的直覺是什麼?

對於 OLS,您可以想像您使用殘差的估計方差(在獨立性和同方差性的假設下)作為條件方差的估計s。在基於三明治的估計器中,您使用觀察到的殘差平方作為插件估計的相同方差,該方差在觀察之間可能會有所不同。

在回歸係數估計的普通最小二乘標準誤差估計中,結果的條件方差被視為恆定且獨立的,因此可以進行一致的估計。

對於三明治,我們避開了條件方差的一致估計,而是使用平方殘差對每個組件的方差進行插件估計

通過使用插件方差估計,我們得到一致的方差估計由李雅普諾夫中心極限定理。

直觀地說,這些觀察到的平方殘差將消除由於異方差性導致的任何無法解釋的誤差,否則在恆定方差的假設下,這些誤差本來是出乎意料的。

引用自:https://stats.stackexchange.com/questions/50778

comments powered by Disqus