一個隨機變量的函數的方差
假設我們有隨機變量具有已知的方差和均值。問題是：方差是多少對於某些給定的函數 f。我知道的唯一通用方法是 delta 方法，但它只給出近似值。現在我有興趣，但了解一些通用方法也很好。
編輯 29.12.2010
我已經使用泰勒級數進行了一些計算，但我不確定它們是否正確，所以如果有人能確認它們，我會很高興。
首先我們需要近似
現在我們可以近似
使用近似我們知道
使用這個我們得到：
更新
我低估了泰勒展開式。他們實際上工作。我假設餘項的積分可以是無界的，但是通過一些工作可以證明情況並非如此。
泰勒展開式適用於有界閉區間內的函數。對於具有有限方差的隨機變量， 切比雪夫不等式給出
$$ P(|X-EX|>c)\le \frac{\operatorname{Var}(X)}{c} $$
所以對於任何 $ \varepsilon>0 $ 我們可以找到足夠大的 $ c $ 以便
$$ P(X\in [EX-c,EX+c])=P(|X-EX|\le c)<1-\varepsilon $$
首先讓我們估計 $ Ef(X) $ . 我們有 $$ \begin{align} Ef(X)=\int_{|x-EX|\le c}f(x)dF(x)+\int_{|x-EX|>c}f(x)dF(x) \end{align} $$ 在哪裡 $ F(x) $ 是分佈函數 $ X $ .
由於第一個積分的域是區間 $ [EX-c,EX+c] $ 這是有界閉區間，我們可以應用泰勒展開： $$ \begin{align} f(x)=f(EX)+f'(EX)(x-EX)+\frac{f''(EX)}{2}(x-EX)^2+\frac{f'''(\alpha)}{3!}(x-EX)^3 \end{align} $$ 在哪裡 $ \alpha\in [EX-c,EX+c] $ , 等式對所有人都成立 $ x\in[EX-c,EX+c] $ . 我只拿了 $ 4 $ 泰勒展開式中的術語，但通常我們可以取任意多，只要函數 $ f $ 足夠光滑。
將這個公式代入我們得到的前一個公式
$$ \begin{align} Ef(X)&=\int_{|x-EX|\le c}f(EX)+f'(EX)(x-EX)+\frac{f''(EX)}{2}(x-EX)^2dF(x)\\ &+\int_{|x-EX|\le c}\frac{f'''(\alpha)}{3!}(x-EX)^3dF(x) +\int_{|x-EX|>c}f(x)dF(x) \end{align} $$ 現在我們可以增加積分的域得到以下公式
$$ \begin{align} Ef(X)&=f(EX)+\frac{f''(EX)}{2}E(X-EX)^2+R_3\\ \end{align} $$ 在哪裡 $$ \begin{align} R_3&=\frac{f'''(\alpha)}{3!}E(X-EX)^3+\\ &+\int_{|x-EX|>c}\left(f(EX)+f'(EX)(x-EX)+\frac{f''(EX)}{2}(x-EX)^2+f(X)\right)dF(x) \end{align} $$ 現在在某些時刻條件下，我們可以證明餘項的第二項與 $ P(|X-EX|>c) $ 這是小。不幸的是，第一項仍然存在，因此近似的質量取決於 $ E(X-EX)^3 $ 和三階導數的行為 $ f $ 在有界的間隔內。這種近似應該最適用於隨機變量 $ E(X-EX)^3=0 $ .
現在對於方差，我們可以使用泰勒近似 $ f(x) $ , 減去公式 $ Ef(x) $ 並平方差。然後
$ E(f(x)-Ef(x))^2=(f'(EX))^2\operatorname{Var}(X)+T_3 $
在哪裡 $ T_3 $ 涉及時刻 $ E(X-EX)^k $ 為了 $ k=4,5,6 $ . 我們也可以通過只使用一階泰勒展開式來得到這個公式，即只使用一階和二階導數。錯誤術語將是相似的。
另一種方法是擴展 $ f^2(x) $ : $$ \begin{align} f^2(x)&=f^2(EX)+2f(EX)f'(EX)(x-EX)\\ &+(f'(EX))^2+f(EX)f''(EX)^2+\frac{(f^2(\beta))'''}{3!}(X-EX)^3 \end{align} $$
同樣我們得到 $$ \begin{align*} Ef^2(x)=f^2(EX)+[(f'(EX))^2+f(EX)f''(EX)]\operatorname{Var}(X)+\tilde{R}_3 \end{align*} $$ 在哪裡 $ \tilde{R}_3 $ 類似於 $ R_3 $ .
方差的公式就變成了 $$ \begin{align} \operatorname{Var}(f(X))=[f'(EX)]^2\operatorname{Var}(X)-\frac{[f''(EX)]^2}{4}\operatorname{Var}^2(X)+\tilde{T}_3 \end{align} $$ 在哪裡 $ \tilde{T}_3 $ 只有第三個時刻及以上。