Maximum-Likelihood

準最大似然估計(QMLE)背後的思想和直覺

  • December 5, 2015

**問題:**準最大似然估計(QMLE;也稱為偽最大似然估計,PMLE)背後的思想和直覺是什麼?當實際的誤差分佈與假設的誤差分佈不匹配時,是什麼使估計器起作用?

QMLE的Wikipedia 站點很好(簡短、直觀、切中要害),但我可以使用更多的直覺和細節,也許還有一個插圖。其他參考是最受歡迎的。(我記得翻閱了很多計量經濟學教科書來尋找關於 QMLE 的材料,令我驚訝的是,QMLE 只在其中一兩本中涵蓋,例如 Wooldridge “橫截面和麵板數據的計量經濟學分析”(2010 年),第 13 章第 11 節,第 502-517 頁。)

“當實際誤差分佈與假設誤差分佈不匹配時,是什麼讓估計器起作用?”

原則上,QMPLE不能“工作”,因為它是一個“好”的估計器。圍繞 QMLE 開發的理論很有用,因為它導致了錯誤規範測試。

QMLE 所做的當然是一致地估計使真實分佈與指定分佈之間的 Kullback-Leiber 散度最小化的參數向量。這聽起來不錯,但最小化這個距離並不意味著最小化的距離不會很大。

儘管如此,我們讀到在很多情況下,QMLE 是真實參數向量的一致估計。這必須逐案評估,但讓我給出一個非常普遍的情況,這表明 QMLE 中沒有任何固有的東西可以使其與真實向量保持一致……

……事實上,它與另一個始終一致的估計量(保持遍歷平穩樣本假設)相吻合:老式的矩量法估計量。

換句話說,當對分佈有疑問時,要考慮的策略是*“始終指定感興趣參數的最大似然估計量與矩量法估計量重合的分佈”*:無論多麼離譜是您的分佈假設,估計量至少是一致的。

您可以將此策略帶到荒謬的極端:假設您有一個來自隨機變量的非常大的獨立同分佈樣本,其中所有值都是正數。繼續並假設隨機變量是正態分佈的,並對均值和方差應用最大似然:您的 QMLE 將與真實值一致。

當然,這引出了一個問題,為什麼要假裝應用 MLE,因為我們本質上所做的是依賴並隱藏在矩量法的優勢(這也保證了漸近正態性)的背後?

在其他更精細的情況下,如果我們可以說我們已經正確指定了條件均值函數而不是分佈,那麼 QMLE 可能對感興趣的參數保持一致(例如,Pooled Poisson QMLE 就是這種情況 - 參見 Wooldridge) .

引用自:https://stats.stackexchange.com/questions/185154

comments powered by Disqus