Maximum-Likelihood
指數分佈的最大似然估計的偏差
指數分佈的最大似然估計是; 我知道如何通過找到對數似然的導數並將其設置為零來推導它。
然後我在一篇在線文章中讀到“不幸的是，這個估計器顯然有偏見，因為確實是但。”
為什麼? 如果我的推斷是正確的運算符表示期望值，然後我想- 即其中一個的期望值， 是，而不是所有的總和的。有人可以解釋第二個陳述以及這兩個陳述如何證明 MLE 是有偏見的嗎？
我無法談論這些符號的使用，但讓我向您展示傳統方式，為什麼 mle 是有偏見的。
回想一下，指數分佈是具有兩個參數的一般 Gamma 分佈的特例，形狀和率. Gamma 隨機變量的 pdf 為：
在哪裡是伽馬函數。存在替代參數化，例如參見維基百科頁面。
如果你把和你得到指數分佈的pdf：
伽馬 RV 最重要的屬性之一是可加性屬性，簡單地說，這意味著如果是一個房車，也是一個伽馬房車和像之前一樣。
定義並且如上所述也是一個 Gamma RV，其形狀參數等於,，即和速率參數作為多於。現在帶著期望
將後一個積分與具有形狀參數的 Gamma 分佈的積分進行比較並評價一個並利用以下事實我們看到它等於. 因此
這清楚地表明 mle 是有偏差的。但是請注意，mle是一致的。我們也知道，在某些正則條件下，mle 是漸近有效且正態分佈的，其均值是真實參數和方差. 因此，它是一個最佳估計量。
這有幫助嗎？