Probability

一組測量指數的無偏估計?

  • August 18, 2019

假設我們有一個(可測量且行為良好的)集合 $ S\subseteq B\subset\mathbb R^n $ , 在哪裡 $ B $ 緊湊。此外,假設我們可以從均勻分佈中抽取樣本 $ B $ 勒貝格測度 $ \lambda(\cdot) $ 並且我們知道度量 $ \lambda(B) $ . 例如,也許 $ B $ 是一個盒子 $ [-c,c]^n $ 包含 $ S $ .

對於固定 $ \alpha\in\mathbb R $ , 有沒有一種簡單的無偏估計方法 $ e^{-\alpha \lambda(S)} $ 通過均勻採樣點 $ B $ 並檢查它們是在裡面還是外面 $ S $ ?

作為一個不太有效的例子,假設我們採樣 $ k $ 積分 $ p_1,\ldots,p_k\sim\textrm{Uniform}(B) $ . 然後我們可以使用蒙特卡洛估計$$ \lambda(S)\approx \hat\lambda:= \frac{#{p_i\in S}}{k}\lambda(B). $$ 但是,雖然 $ \hat\lambda $ 是一個無偏估計量 $ \lambda(S) $ , 我不認為是這樣的 $ e^{-\alpha\hat\lambda} $ 是一個無偏估計量 $ e^{-\alpha\lambda(S)} $ . 有沒有辦法修改這個算法?

假設您有以下可用資源:

  1. 您有權訪問估算器 $ \hat{\lambda} $ .
  2. $ \hat{\lambda} $ 是公正的 $ \lambda ( S ) $ .
  3. $ \hat{\lambda} $ 幾乎肯定是在上面 $ C $ .
  4. 你知道常數 $ C $ , 和
  5. 您可以形成獨立的實現 $ \hat{\lambda} $ 任意多次。

現在,請注意,對於任何 $ u > 0 $ ,以下成立(通過泰勒展開 $ \exp x $ ):

$$ \begin{align} e^{-\alpha \lambda ( S ) } &= e^{-\alpha C} \cdot e^{\alpha \left( C - \lambda ( S ) \right)} \ &= e^{- \alpha C} \cdot \sum_{k \geqslant 0} \frac{ \left( \alpha \left[ C - \lambda ( S ) \right] \right)^k}{ k! } \ &= e^{- \alpha C} \cdot e^u \cdot \sum_{k \geqslant 0} \frac{ e^{-u} \cdot \left( \alpha \left[ C - \lambda ( S ) \right] \right)^k}{ k! } \ &= e^{u -\alpha C} \cdot \sum_{k \geqslant 0} \frac{ u^k e^{-u} }{ k! } \left(\frac{ \alpha \left[ C - \lambda ( S ) \right]}{u} \right)^k \end{align} $$

現在,執行以下操作:

  1. 樣本 $ K \sim \text{Poisson} ( u ) $ .
  2. 形式 $ \hat{\lambda}_1, \cdots, \hat{\lambda}_K $ 作為獨立同分佈的無偏估計者 $ \lambda(S) $ .
  3. 返回估算器

$$ \hat{\Lambda} = e^{u -\alpha C} \cdot \left(\frac{ \alpha }{u} \right)^K \cdot \prod_{i = 1}^K \left{ C - \hat{\lambda}_i \right}. $$

$ \hat{\Lambda} $ 是一個非負的、無偏的估計量 $ \lambda(S) $ . 這是因為

$$ \begin{align} \mathbf{E} \left[ \hat{\Lambda} | K \right] &= e^{u -\alpha C} \cdot \left(\frac{ \alpha }{u} \right)^K \mathbf{E} \left[ \prod_{i = 1}^K \left{ C - \hat{\lambda}i \right} | K \right] \ &= e^{u -\alpha C} \cdot \left(\frac{ \alpha }{u} \right)^K \prod{i = 1}^K \mathbf{E} \left[ C - \hat{\lambda}i \right] \ &= e^{u -\alpha C} \cdot \left(\frac{ \alpha }{u} \right)^K \prod{i = 1}^K \left[ C - \lambda ( S ) \right] \ &= e^{u -\alpha C} \cdot \left(\frac{ \alpha }{u} \right)^K \left[ C - \lambda ( S ) \right]^K \end{align} $$

因此

$$ \begin{align} \mathbf{E} \left[ \hat{\Lambda} \right] &= \mathbf{E}K \left[ \mathbf{E} \left[ \hat{\Lambda} | K \right] \right] \ &= \mathbf{E}K \left[ e^{u -\alpha C} \cdot \left(\frac{ \alpha }{u} \right)^K \left[ C - \lambda ( S ) \right]^K \right] \ &= e^{u -\alpha C} \cdot \sum{k \geqslant 0} \mathbf{P} ( K = k ) \left(\frac{ \alpha }{u} \right)^K \left[ C - \lambda ( S ) \right]^K \ &= e^{u -\alpha C} \cdot \sum{k \geqslant 0} \frac{ u^k e^{-u} }{ k! } \left(\frac{ \alpha \left[ C - \lambda ( S ) \right]}{u} \right)^k \ &= e^{-\alpha \lambda ( S ) } \end{align} $$

通過前面的計算。

引用自:https://stats.stackexchange.com/questions/422696

comments powered by Disqus