Self-Study

柯西分佈位置參數的最大似然估計

  • September 25, 2015

我已經達到

在哪裡是位置參數。和是似然函數。我不知道如何進行。請幫忙。

好的,讓我們說柯西的 pdf 是:

這裡是中位數,不是均值,因為柯西均值是未定義的。

這正是你得到的,除了這裡是中位數,不是平均數。我想是公式中的中位數。

下一步,為了找到 mle 我們需要設置

現在是你的變量,並且是已知值,您需要求解方程

即解決. 看來解這個方程會很困難。因此,我們需要 Newton-Raphson 方法。

我想很多微積分書都講方法

Newton-Raphson 方法的公式可以寫為

是你最初的猜測

是對數似然函數的一階導數。

是對數似然函數的二階導數。

從你可以得到然後你把到然後你得到並把它放到要得到…繼續此迭代,直到之間沒有大的變化和

以下是我為獲取柯西分佈的 mle 而編寫的 R 函數。

mlecauchy=function(x,toler=.001){      #x is a vector here
startvalue=median(x)
n=length(x);
thetahatcurr=startvalue;
# Compute first deriviative of log likelihood
firstderivll=2*sum((x-thetahatcurr)/(1+(x-thetahatcurr)^2))
# Continue Newton’s method until the first derivative
# of the likelihood is within toler of 0.001
while(abs(firstderivll)>toler){
# Compute second derivative of log likelihood
secondderivll=2*sum(((x-thetahatcurr)^2-1)/(1+(x-thetahatcurr)^2)^2);
# Newton’s method update of estimate of theta
thetahatnew=thetahatcurr-firstderivll/secondderivll;
thetahatcurr=thetahatnew;
# Compute first derivative of log likelihood
firstderivll=2*sum((x-thetahatcurr)/(1+(x-thetahatcurr)^2))
}
list(thetahat=thetahatcurr);
}

現在假設您的數據是

x<-c(-1.94,0.59,-5.98,-0.08,-0.77)
mlecauchy(x,0.0001)

結果:

#$thetahat
#[1] -0.5343968

我們也可以使用 R 內置函數來獲取 mle。

optimize(function(theta) -sum(dcauchy(x, location=theta, log=TRUE)),  c(-100,100)) 

#we use negative sign here

結果:

#$minimum
#[1] -0.5343902

結果與自製代碼幾乎相同。


好的,根據您的要求,讓我們手動完成。

首先我們得到一個初步的猜測將是數據的中位數

中位數是

接下來我們已經知道了

現在我們插入即中位數和

即替換和即中位數

下一個插件到和要得到那麼你可以得到

好了,我只好到此為止了,手工計算這些值太麻煩了。

引用自:https://stats.stackexchange.com/questions/174117

comments powered by Disqus