Probability

中心極限定理和大數定律

  • February 2, 2013

關於中心極限定理(CLT),我有一個非常初學者的問題:

我知道 CLT 聲明 iid 隨機變量的平均值近似正態分佈(對於, 在哪裡是和的索引)或標準化隨機變量將具有標準正態分佈。

現在大數定律粗略地說,獨立同分佈隨機變量的平均值(概率或幾乎肯定)收斂到它們的期望值。

我不明白的是:如果如 CLT 所述,平均值近似正態分佈,那麼它如何同時收斂到預期值?

收斂對我來說意味著隨著時間的推移,平均值取一個不是預期值的值的概率幾乎為零,因此分佈實際上並不是正態分佈,而是在除預期值之外的所有地方幾乎為零。

歡迎任何解釋。

該圖顯示了均值的分佈(藍色),(紅色),和(gold) 獨立同分佈 ( iid ) 正態分佈(單位方差和均值)):

三個重疊的 PDF

作為增加,均值的分佈變得更加“集中”. (“聚焦”的感覺很容易量化:給定任何固定的開區間周圍, 內的分佈量隨著增加並且有一個極限值.)

然而,當我們對這些分佈進行標準化時,我們會重新調整每個分佈的平均值和一個單位方差:那麼它們都是一樣的。這就是我們看到的方式,儘管手段本身的 PDF 正在飆升並集中在,然而這些分佈中的每一個仍然具有正態*形狀,*即使它們各自不同。

中心極限定理說,當您從具有有限方差的任何分佈(不僅僅是正態分佈)開始,並以iid 值作為增加,你會看到同樣的事情:均值分佈集中在原始均值周圍(大數弱定律),但標準化均值分佈收斂到標準正態分佈(中心極限定理)。

引用自:https://stats.stackexchange.com/questions/49123

comments powered by Disqus