Mathematical-Statistics

在變換下觀察到的 Fisher 信息

  • September 30, 2014

來自 Y. Pawitan 的“在所有可能性中:使用可能性的統計建模和推理”,重新參數化的可能性定義為

所以如果是一對一的,那麼(第 45 頁)。我試圖展示練習 2.20,它指出如果是標量(我假設也應該是一個標量函數),那麼

在哪裡

是觀察到的 Fisher 信息,並且. 如果是一對一的,那麼這很簡單,使用鍊式法則和不變性原則。我只是想知道一些事情:

  1. 為什麼他堅持寫絕對值?這可以省略,對吧?
  2. 經過他的意思是函數評價為, 對?如果是這種情況,那麼它不是一個糟糕的符號選擇嗎?我相信這個世界的常用速記符號是.
  3. 這是如何顯示的不一定是一對一的?
  1. 絕對值是不必要的。這可能只是一個錯字。
  2. 你說得對。一個更好的符號是 $ \frac{dg(\theta)}{d\theta}\Bigg|_{\theta=\hat{\theta}} $ .
  3. 一般不成立。修復一些 $ \psi_0 $ 並定義 $ g:\mathbb{R}\to\mathbb{R} $ 經過 $ g(\theta)=\psi_0 $ . rhs 將是未定義的,因為每個導數都為零 $ \theta $ .

常規案例的草圖:

為順利一對一 $ g $ 和 $ \psi=g(\theta) $ . 自從, $ d/d\psi = d\theta/d\psi\cdot d/d\theta $ , 我們有 $$ \begin{align} I^(\psi) &= -\frac{d^2L^(\psi)}{d\psi^2} = -\frac{d}{d\psi}\left(\frac{dL^(\psi)}{d\psi} \right) = -\frac{d}{d\psi}\left(\frac{dL^(\psi)}{d\theta} \frac{d\theta}{d\psi}\right) \ &= - \frac{d^2L^(\psi)}{d\theta^2}\left(\frac{d\theta}{d\psi}\right)^2 - \frac{dL^(\psi)}{d\theta}\frac{d^2\theta}{d\psi^2} \frac{d\theta}{d\psi}, . \end{align} $$ 所以, $$ \begin{align} I^(g(\hat{\theta})) &= -\frac{d^2L^(g(\hat{\theta}))}{d\theta^2}\left(\frac{d\theta}{d\psi}\right)^2 - \frac{dL^*(g(\hat{\theta}))}{d\theta}\frac{d^2\theta}{d\psi^2} \frac{d\theta}{d\psi} \ &= -\frac{d^2L(g^{-1}(g(\hat{\theta})))}{d\theta^2} \left(\frac{dg(\theta)}{d\theta}\Bigg|{\theta=g^{-1}(g(\hat{\theta}))}\right)^{-2} - \frac{dL(g^{-1}(g(\hat{\theta})))}{d\theta}\frac{d^2\theta}{d\psi^2} \frac{d\theta}{d\psi} \ &= I(\hat{\theta}) \left(\frac{dg(\theta)}{d\theta}\Bigg|{\theta=\hat{\theta}}\right)^{-2} , , \end{align} $$ 我們在其中使用 $ dL(g^{-1}(g(\hat{\theta})))/d\theta=dL(\hat{\theta})/d\theta=0 $ .

引用自:https://stats.stackexchange.com/questions/117351

comments powered by Disqus