Self-Study
柯西分佈位置參數的最大似然估計
我已經達到
在哪裡是位置參數。和是似然函數。我不知道如何進行。請幫忙。
好的,讓我們說柯西的 pdf 是:
這裡是中位數,不是均值,因為柯西均值是未定義的。
這正是你得到的,除了這裡是中位數,不是平均數。我想是公式中的中位數。
下一步,為了找到 mle 我們需要設置
現在是你的變量,並且是已知值,您需要求解方程
即解決. 看來解這個方程會很困難。因此,我們需要 Newton-Raphson 方法。
我想很多微積分書都講方法
Newton-Raphson 方法的公式可以寫為
是你最初的猜測
是對數似然函數的一階導數。
是對數似然函數的二階導數。
從你可以得到然後你把到然後你得到並把它放到要得到…繼續此迭代,直到之間沒有大的變化和
以下是我為獲取柯西分佈的 mle 而編寫的 R 函數。
mlecauchy=function(x,toler=.001){ #x is a vector here startvalue=median(x) n=length(x); thetahatcurr=startvalue; # Compute first deriviative of log likelihood firstderivll=2*sum((x-thetahatcurr)/(1+(x-thetahatcurr)^2)) # Continue Newton’s method until the first derivative # of the likelihood is within toler of 0.001 while(abs(firstderivll)>toler){ # Compute second derivative of log likelihood secondderivll=2*sum(((x-thetahatcurr)^2-1)/(1+(x-thetahatcurr)^2)^2); # Newton’s method update of estimate of theta thetahatnew=thetahatcurr-firstderivll/secondderivll; thetahatcurr=thetahatnew; # Compute first derivative of log likelihood firstderivll=2*sum((x-thetahatcurr)/(1+(x-thetahatcurr)^2)) } list(thetahat=thetahatcurr); }
現在假設您的數據是
x<-c(-1.94,0.59,-5.98,-0.08,-0.77) mlecauchy(x,0.0001)
結果:
#$thetahat #[1] -0.5343968
我們也可以使用 R 內置函數來獲取 mle。
optimize(function(theta) -sum(dcauchy(x, location=theta, log=TRUE)), c(-100,100)) #we use negative sign here
結果:
#$minimum #[1] -0.5343902
結果與自製代碼幾乎相同。
好的,根據您的要求,讓我們手動完成。
首先我們得到一個初步的猜測將是數據的中位數
中位數是
接下來我們已經知道了
和
現在我們插入即中位數和
即替換和即中位數
下一個插件到和要得到那麼你可以得到
好了,我只好到此為止了,手工計算這些值太麻煩了。