Probability

我聽說隨機變量的比率或倒數通常是有問題的,因為沒有期望。這是為什麼?

  • August 25, 2017

標題就是問題。有人告訴我,隨機變量的比率和倒數通常是有問題的。意思是期望通常不存在。有一個簡單的,一般的解釋嗎?

**我想提供一個非常簡單、直觀的解釋。**這相當於看一張圖片:這篇文章的其餘部分解釋了圖片並從中得出結論。

**歸結為:**當有一個“概率質量”集中在附近時 $ X=0 $ , 附近的概率會很大 $ 1/X\approx \pm \infty $ ,導致其期望未定義。


讓我們專注於隨機變量,而不是完全一般的 $ X $ 具有連續密度的 $ f_X $ 在附近 $ 0 $ . 認為 $ f_X(0)\ne 0 $ . 從視覺上看,這些條件意味著 $ f $ 位於圍繞軸的上方 $ 0 $ :

顯示密度圖及其下方面積的圖。

的連續性 $ f_X $ 大約 $ 0 $ 意味著對於任何正高度 $ p $ 少於 $ f_X(0) $ 並且足夠小 $ \epsilon $ ,我們可以在該圖下方劃出一個以 $ x=0 $ , 有寬度 $ 2\epsilon $ , 和高度 $ p $ , 如圖所示。這對應於將原始分佈表示為均勻分佈(具有權重 $ p\times 2\epsilon=2p\epsilon $ ) 以及剩下的。

將圖表顯示為混合物的圖。

換句話說,我們可能會想到 $ X $ 以下列方式產生:

  1. 有概率 $ 2p\epsilon $ , 從 Uniform 中抽取一個值 $ (-\epsilon,\epsilon) $ 分配。
  2. 否則,從密度與 $ f_X - p I_{(-\epsilon,\epsilon)} $ . (這是右側以黃色繪製的函數。)

( $ I $ 是指標函數。)

步 $ (1) $ 表明對於任何 $ 0 \lt u \lt \epsilon $ , 的機會 $ X $ 在。。。之間 $ 0 $ 和 $ u $ 超過 $ p u / 2 $ . 等效地,這是一個機會 $ 1/X $ 超過 $ 1/u $ . 換句話說:寫作 $ S $ 對於倖存者函數 $ 1/X $

$$ S(x) = \Pr(1/X \gt x), $$

這個圖片顯示著 $ S(x) \gt p / (2x) $ 對所有人 $ x \gt 1/\epsilon $ .

我們現在完成了,因為這個事實 $ S $ 意味著期望未定義。 比較計算正部分期望所涉及的積分 $ 1/X $ , $ (1/X)_{+} = \max(0, 1/X) $ :

$$ E[(1/X){+}] = \int_0^\infty S(x)dx \gt \int{1/\epsilon}^x S(x)dx \gt \int_{1/\epsilon}^x \frac{p}{2x}dx = \frac{p}{2} \log(x\epsilon). $$

(這是一個純粹的幾何論證:每個積分都代表一個可識別的二維區域,所有不等式都來自這些區域內的嚴格包含。事實上,我們甚至不需要知道最終積分是對數:有簡單的幾何顯示這個積分的論點是不同的。)

由於右側發散為 $ x\to\infty $ , $ E[(1/X)_{+}] $ 也有分歧。負面部分的情況 $ 1/X $ 是一樣的(因為矩形以 $ 0 $ ),同樣的論證表明了負部分的期望 $ 1/X $ 分歧。因此期望 $ 1/X $ 本身是未定義的。

順便說一句,同樣的論點表明,當 $ X $ 概率集中在一側 $ 0 $ ,例如任何指數或 Gamma 分佈(形狀參數小於 $ 1 $ ),那麼正期望仍然發散,但負期望為零。在這種情況下,期望定義的,但是是無限的。

引用自:https://stats.stackexchange.com/questions/299722

comments powered by Disqus