Likelihood
Fisher 的得分函數的均值為零——這甚至意味著什麼?
我正在嘗試遵循普林斯頓對可能性理論的評論。他們定義
Fisher’s score function
為對數似然函數的一階導數,他們說分數是一個隨機向量。例如對於幾何分佈:而且我可以看到它確實是一個函數(參數的),它是隨機的,因為它涉及.
但是然後他們說了一些我不明白的話:“以真實參數值評估的分數均值為零”,他們將其表述為. 在“真正的參數值”處評估它然後找出它的平均值是什麼意思?在幾何示例中,如果我使用身份我不會馬上明白嗎? “真正的參數值”與此有什麼關係?
正如你指出的分數功能是,在合適的規律性條件下,定義為“對數似然函數的一階導數”。
讓我們假設是具有密度函數的隨機變量. 通常這個密度會根據參數向量而變化. 因此,將密度函數寫成很方便使其顯式地依賴於參數。我們將假設“真實”值對於隨機變量是. (我的意思是)
得分函數現在可以寫成:
現在很明顯,它是兩者的函數和. (在你的問題中,你有代替,但沒有區別,因為似然函數只是密度函數。) 現在考慮隨機變量及其期望. 這裡重要的是要注意下標是否有指示分佈中的(真實)參數並將其與價值區分開來我們正在計算的.
假如說是一個連續密度(離散情況類似),我們有:
當你評估在真正的參數值我們得到:
這就是分數函數在真實參數處期望為零的原因。
你應該看看像這樣的書(第 3 章),以更深入地了解這些推導(如導數和積分的互換)成立的條件。