Maximum-Likelihood

是否有 MLE 產生均值有偏估計的示例?

  • December 17, 2016

你能提供一個有偏均值的 MLE 估計的例子嗎?

我不是在尋找一個通過違反規律性條件來破壞 MLE 估計器的示例。

我在互聯網上看到的所有例子都指的是方差,我似乎找不到任何與平均值相關的東西。

編輯

@MichaelHardy 提供了一個示例,在該示例中,我們在某個提議的模型下使用 MLE 對均勻分佈的均值進行了有偏估計。

然而

https://en.wikipedia.org/wiki/Uniform_distribution_(continuous)#Estimation_of_midpoint

表明 MLE 是均值的統一最小無偏估計量,顯然是在另一個提出的模型下。

在這一點上,我仍然不太清楚 MLE 估計是什麼意思,如果它是非常假設的模型依賴,而不是說一個模型中性的樣本均值估計量。最後,我有興趣估計關於人口的一些事情,並不真正關心對假設模型參數的估計。

編輯 2

正如@ChristophHanck 向模型展示的那樣,帶有額外信息的模型引入了偏差,但並未設法降低 MSE。

我們還有其他結果:

http://www.maths.manchester.ac.uk/~peterf/CSI_ch4_part1.pdf (p61) http://www.cs.tut.fi/~hehu/SSP/lecture6.pdf (幻燈片 2) http:// /www.stats.ox.ac.uk/~marchini/bs2a/lecture4_4up.pdf(幻燈片 5)

“如果存在 θ 的最有效的無偏估計量 ^θ(即 ^θ 是無偏的,並且它的方差等於 CRLB),那麼最大似然估計方法將產生它。”

“此外,如果存在有效的估計器,它就是 ML 估計器。”

由於具有自由模型參數的 MLE 是無偏且有效的,根據定義,這是“最大似然估計器”嗎?

編輯 3

@AlecosPapadopoulos 在數學論壇上有一個半正態分佈的例子。

https://math.stackexchange.com/questions/799954/can-the-maximum-likelihood-estimator-be-unbiased-and-fail-to-achieve-cramer-rao

它不像在統一情況下那樣錨定它的任何參數。我會說這解決了它,儘管他沒有證明平均估計量的偏差。

Christoph Hanck 沒有公佈他提出的例子的細節。我認為他的意思是區間上的均勻分佈基於獨立同分佈樣本大小超過

平均值是.

均值的 MLE 是

這是有偏見的,因為所以

**PS:**也許我們應該注意均值的最佳無偏估計不是樣本均值,而是

樣本均值是一個糟糕的估計量因為對於某些樣本,樣本均值小於這顯然是不可能的小於
PS結束


我懷疑帕累托分佈是另一種情況。這是概率度量:

期望值為期望值的 MLE 為

在哪裡 我還沒有計算出均值的 MLE 的期望值,所以我不知道它的偏差是什麼。

引用自:https://stats.stackexchange.com/questions/252129

comments powered by Disqus