Feature-Selection

估計器的預言屬性是什麼?

  • August 10, 2016
  1. 估計器 的預言屬性是什麼?
  2. oracle 屬性與哪些建模目標相關(預測性、解釋性……)?

理論上嚴謹和(特別是)直觀的解釋都是受歡迎的。

預言機知道真相:它知道真正的子集並願意對其採取行動。oracle 屬性是估計量的漸近分佈與 MLE 的漸近分佈相同,僅在真實支持上。也就是說,估計器無需付出代價(根據漸近分佈)即可適應知道真正的支持。

通過在定理 9.14 中討論的 MLE 的漸近最優性,我們知道,在某些技術條件下,例如,當誤差為高斯時,即

我們假設是真實支撐的真實係數. 請注意,漸近分佈的方差是 Fisher 信息的倒數,表明是漸近有效的。由於知道真正支持的 MLE 實現了這一點,因此它也需要作為 oracle 屬性的一部分。 然而,我們確實付出了陡峭的非漸近代價:例如,

Hannes Leeb,Benedikt M. Pötscher,稀疏估計和預言屬性,或霍奇斯估計的回歸,計量經濟學雜誌,第 142 卷,2008 年第 1 期,第 201-211 頁,

這表明任何“預言機估計器”(在 Fan 和 Li,2001 的意義上)的風險都有一個發散到無窮大的上確界。

引用自:https://stats.stackexchange.com/questions/229142

comments powered by Disqus