Probability

獨立平方均勻隨機變量和的平方根的期望

  • December 4, 2017

讓 $ X_1,\dots,X_n \sim U(0,1) $ 是獨立同分佈的標準均勻隨機變量。

$$ \text{Let }\quad Y_n=\sum_i^nX_i^2 \quad \quad \text{I seek: } \quad \mathbb{E}\big[\sqrt{Y_n } \big] $$


的期望 $ Y_n $ 簡單:

$$ \begin{align} \mathbb{E}\left[X^2\right] &=\int_0^1\frac{y}{2\sqrt{y}}=\frac{1}{3}\ \mathbb{E}\left[Y_n\right] &=\mathbb{E}\left[\sum_i^nX_i^2\right] = \sum_i^n\mathbb{E}\left[X_i^2\right]=\frac{n}{3} \end{align} $$

現在是無聊的部分。要申請 LOTUS,我需要 pdf $ Y_n $ . 當然,兩個獨立隨機變量之和的 pdf 是它們 pdf 的捲積。然而,這裡我們有 $ n $ 隨機變量,我猜卷積會導致……複雜的表達(可怕的雙關語)。有沒有更聰明的方法?

我希望看到正確的解決方案,但如果它不可能或太複雜,請使用大的漸近近似 $ n $ 可以接受。根據 Jensen 不等式,我知道

$$ \sqrt{\mathbb{E}[Y_n]}=\sqrt{\frac{n}{3}}\geq\mathbb{E}\left[\sqrt{Y_n}\right] $$

但這對我沒有多大幫助,除非我也能找到一個不平凡的下限。請注意,CLT 在這裡並不直接適用,因為我們有獨立 RV 之和的平方根,而不僅僅是獨立 RV 之和。也許可能有其他極限定理(我忽略)在這裡可能會有所幫助。

一種方法是首先計算矩生成函數 (mgf) $ Y_n $ 被定義為 $ Y_n = U_1^2 + \dotsm + U_n^2 $ 在哪裡 $ U_i, i=1,\dotsc, n $ 是獨立同分佈的標準均勻隨機變量。

當我們擁有它時,我們可以看到 $$ \DeclareMathOperator{\E}{\mathbb{E}} \E \sqrt{Y_n} $$ 是分數矩 $ Y_n $ 有秩序的 $ \alpha=1/2 $ . 然後我們可以使用 Noel Cressie 和 Marinus Borkent 論文的結果:“The Moment Generating Function has its Moments”,Journal of Statistical Planning and Inference 13 (1986) 337-344,它通過矩生成函數的分數微分給出分數矩.

首先是矩生成函數 $ U_1^2 $ , 我們寫 $ M_1(t) $ . $$ M_1(t) = \E e^{t U_1^2} = \int_0^1 \frac{e^{tx}}{2\sqrt{x}}; dx $$ 我評估了(在 Maple 和 Wolphram Alpha 的幫助下)給 $$ \DeclareMathOperator{\erf}{erf} M_1(t)= \frac{\erf(\sqrt{-t})\sqrt{\pi}}{2\sqrt{-t}} $$在哪裡 $ i=\sqrt{-1} $ 是虛數單位。(Wolphram Alpha 給出了類似的答案,但根據 Dawson 積分。)事實證明,我們最需要的情況是 $ t<0 $ . 現在很容易找到 $ Y_n $ : $$ M_n(t) = M_1(t)^n $$ 然後是引用論文的結果。為了 $ \mu>0 $ 他們定義 $ \mu $ 函數的三階積分 $ f $ 作為 $$ I^\mu f(t) \equiv \Gamma(\mu)^{-1} \int_{-\infty}^t (t-z)^{\mu-1} f(z); dz $$ 那麼,對於 $ \alpha>0 $ 和非積分的, $ n $ 一個正整數,和 $ 0<\lambda<1 $ 這樣 $ \alpha=n-\lambda $ . 然後的導數 $ f $ 有秩序的 $ \alpha $ 定義為 $$ D^\alpha f(t) \equiv \Gamma(\lambda)^{-1}\int_{-\infty}^t (t-z)^{\lambda-1} \frac{d^n f(z)}{d z^n}; dz. $$ 然後他們陳述(並證明)以下結果,對於一個正隨機變量 $ X $ : 認為 $ M_X $ (mgf) 已定義。那麼,對於 $ \alpha>0 $ , $$ D^\alpha M_X(0) = \E X^\alpha < \infty $$ 現在我們可以嘗試將這些結果應用於 $ Y_n $ . 和 $ \alpha=1/2 $ 我們發現 $$ \E Y_n^{1/2} = D^{1/2} M_n (0) = \Gamma(1/2)^{-1}\int_{-\infty}^0 |z|^{-1/2} M_n'(z) ; dz $$ 其中素數表示導數。Maple 給出了以下解決方案: $$ \int_{-\infty}^0 \frac{n\cdot\left(\erf(\sqrt{-z})\sqrt{\pi}-2e^z\sqrt{-z} \right)e^{\frac{n(-2\ln 2 +2 \ln(\erf(\sqrt{-z}))-\ln(-z) +\ln(\pi))}{2}}}{2\pi(-z)^{3/2}\erf(\sqrt{-z})} ; dz $$ 我將展示這個期望的圖,使用數值積分在楓樹中製作,以及近似解 $ A(n)=\sqrt{n/3-1/15} $ 來自一些評論(並在@Henry的回答中討論)。它們非常接近:

比較精確和近似

作為補充,百分比誤差圖:

上圖中的相對誤差(百分比)

以上關於 $ n=20 $ 近似值接近精確。下面使用的楓木代碼:

int( exp(t*x)/(2*sqrt(x)), x=0..1 ) assuming t>0;
int( exp(t*x)/(2*sqrt(x)), x=0..1 ) assuming t<0;
M := t -> erf(sqrt(-t))*sqrt(Pi)/(2*sqrt(-t))
Mn := (t,n) -> exp(n*log(M(t)))
A  :=  n -> sqrt(n/3 - 1/15)
Ex :=  n ->   int( diff(Mn(z,n),z)/(sqrt(abs(z))*GAMMA(1/2) ), z=-infinity..0 ,numeric=true)

plot([Ex(n),A(n)],n=1..100,color=[blue,red],legend=[exact,approx],labels=[n,expectation],title="expectation of sum of squared uniforms")
plot([((A(n)-Ex(n))/Ex(n))*100],n=1..100,color=[blue],labels=[n,"% error"],title="Percentage error of approximation")

引用自:https://stats.stackexchange.com/questions/317095

comments powered by Disqus