在變換下觀察到的 Fisher 信息
來自 Y. Pawitan 的“在所有可能性中:使用可能性的統計建模和推理”,重新參數化的可能性定義為
所以如果是一對一的,那麼(第 45 頁)。我試圖展示練習 2.20,它指出如果是標量(我假設也應該是一個標量函數),那麼
在哪裡
是觀察到的 Fisher 信息,並且. 如果是一對一的,那麼這很簡單,使用鍊式法則和不變性原則。我只是想知道一些事情:
- 為什麼他堅持寫絕對值?這可以省略,對吧?
- 經過他的意思是函數評價為, 對?如果是這種情況,那麼它不是一個糟糕的符號選擇嗎?我相信這個世界的常用速記符號是.
- 這是如何顯示的不一定是一對一的?
- 絕對值是不必要的。這可能只是一個錯字。
- 你說得對。一個更好的符號是 $ \frac{dg(\theta)}{d\theta}\Bigg|_{\theta=\hat{\theta}} $ .
- 一般不成立。修復一些 $ \psi_0 $ 並定義 $ g:\mathbb{R}\to\mathbb{R} $ 經過 $ g(\theta)=\psi_0 $ . rhs 將是未定義的,因為每個導數都為零 $ \theta $ .
常規案例的草圖:
為順利一對一 $ g $ 和 $ \psi=g(\theta) $ . 自從, $ d/d\psi = d\theta/d\psi\cdot d/d\theta $ , 我們有 $$ \begin{align} I^(\psi) &= -\frac{d^2L^(\psi)}{d\psi^2} = -\frac{d}{d\psi}\left(\frac{dL^(\psi)}{d\psi} \right) = -\frac{d}{d\psi}\left(\frac{dL^(\psi)}{d\theta} \frac{d\theta}{d\psi}\right) \ &= - \frac{d^2L^(\psi)}{d\theta^2}\left(\frac{d\theta}{d\psi}\right)^2 - \frac{dL^(\psi)}{d\theta}\frac{d^2\theta}{d\psi^2} \frac{d\theta}{d\psi}, . \end{align} $$ 所以, $$ \begin{align} I^(g(\hat{\theta})) &= -\frac{d^2L^(g(\hat{\theta}))}{d\theta^2}\left(\frac{d\theta}{d\psi}\right)^2 - \frac{dL^*(g(\hat{\theta}))}{d\theta}\frac{d^2\theta}{d\psi^2} \frac{d\theta}{d\psi} \ &= -\frac{d^2L(g^{-1}(g(\hat{\theta})))}{d\theta^2} \left(\frac{dg(\theta)}{d\theta}\Bigg|{\theta=g^{-1}(g(\hat{\theta}))}\right)^{-2} - \frac{dL(g^{-1}(g(\hat{\theta})))}{d\theta}\frac{d^2\theta}{d\psi^2} \frac{d\theta}{d\psi} \ &= I(\hat{\theta}) \left(\frac{dg(\theta)}{d\theta}\Bigg|{\theta=\hat{\theta}}\right)^{-2} , , \end{align} $$ 我們在其中使用 $ dL(g^{-1}(g(\hat{\theta})))/d\theta=dL(\hat{\theta})/d\theta=0 $ .