Variance

是1𝑛+1∑𝑛𝑖=1(𝑋𝑖-𝑋⎯⎯⎯⎯⎯)21n+1∑一世=1n(X一世-X¯)2frac1{n+1}sum_{i=1}^n(X_i-overline X)^2一個可接受的估計量𝜎2σ2sigma^2?

  • May 5, 2021

考慮一個樣本 $ X_1,X_2,\ldots,X_n $ 從單變量 $ N(\mu,\sigma^2) $ 分佈在哪裡 $ \mu,\sigma^2 $ 都是未知數。則可知在平方誤差損失下,樣本方差 $ s^2=\frac1{n-1}\sum\limits_{i=1}^n (X_i-\overline X)^2 $ 不可用於估計 $ \sigma^2 $ 因為有更好的估算器 $ \left(\frac{n-1}{n+1}\right)s^2=\frac1{n+1}\sum\limits_{i=1}^n(X_i-\overline X)^2 $ .

現在這個第二個估計器本身在相同的損失函數下是否可以接受?在以下形式的估計器中,它當然具有最小的風險 $ cs^2 $ ,但是我們怎麼知道在這個類之外沒有另一個風險較小的估計器呢?

我對什麼時候有同樣的問題 $ \mu $ 是已知的。如果 $ \mu=0 $ , 那麼可以證明 $ T=\frac1n\sum\limits_{i=1}^n X_i^2 $ 在估計的平方誤差損失下是不可接受的 $ \sigma^2 $ 因為有更好的估算器 $ \left(\frac{n}{n+2}\right)T=\frac1{n+2}\sum\limits_{i=1}^n X_i^2 $ . 但不知道有沒有 $ \left(\frac{n}{n+2}\right)T $ 是否可接受。


我終於在 Lehmann/Casella 的點估計理論(第 2 版,第 330-334 頁)中找到了這兩個問題的可訪問參考。

假使,假設 $ X_i \sim \mathcal{N}(\mu, \sigma^2) $ 與未知的獨立同居 $ \mu $ 和 $ \sigma^2 $ 並且損失函數是 $ \left(\delta(\mathbf{X}) - \sigma^2 \right)^2 $ . 考慮參考估計器 $ \delta_0(\mathbf{X}) = \sum_{i=1}^n (X_i-\bar{X})^2/(n+1) $ .

Stein (1964)發現了一個估計器 $ \delta_{(\nu)} $ 占主導地位的 $ \delta_0 $ 對於任何固定選擇 $ \nu $ . 估計器是$$ \delta_{(\nu)}(\mathbf{X}) = \min\left{ \delta_0(\mathbf{X}), \frac{1}{n+2} \sum_{i=1}^n (X_i - \nu)^2\right}. $$在高層次上,該估計器在均值未知的估計器(使用樣本均值估計)和承諾固定的估計器之間進行選擇 $ \nu $ 作為真正的平均值,因此還有一個 df。Stein 寫道:“觀察到估計器 [ $ \delta_{(\nu)} $ ] 可以通過首先檢驗假設來獲得 $ \mu=\nu $ 在適當的顯著性水平上並使用估計值 [ $ \frac{1}{n+2} \sum_{i=1}^n (X_i - \nu)^2 $ ] 如果假設被接受並且估計 [ $ \delta_0(\mathbf{X}) $ ] 如果假設被拒絕。''

從我的角度來看,估計者 $ \delta_{(\nu)} $ 賭注 $ \nu $ 是真正的均值,並被允許“逃避”下注。這是現代高維統計中常見的一種後選擇推斷,但這裡不需要對選擇進行控制。

請注意,我最初從 Stein 那裡看到這一點很驚訝,因為根據我的經驗,協方差的估計量(明智地)與尺度不變的損失函數進行了比較。關於這一點,在鏈接的文章中,Stein 寫道:“我發現很難認真對待估計具有二次損失函數的 [方差] 的問題”,並繼續詳細說明並得出結論:“與本文的結果不同, [另一篇使用平方誤差損失但用於位置估計的論文]中的主要結果可以認真推薦給實際的統計學家”。


在真實均值的情況下 $ \mu $ 已知,估計量除以 $ n+2 $ 在平方誤差下是可接受的。Stein 的上述文章對此進行了評論,並歸功於 Hodges 和 Lehmann (1951)。

引用自:https://stats.stackexchange.com/questions/522910

comments powered by Disqus