Self-Study

迭代期望定律的概括

  • May 1, 2014

我最近遇到了這個身份:

我當然熟悉該規則的簡單版本,即但我無法為它的概括找到理由。

如果有人能給我指出一個關於該事實的不那麼技術性的參考資料,或者更好的是,如果有人可以為這個重要結果提供一個簡單的證明,我將不勝感激。

非正式治療

我們應該記住,我們以隨機變量為條件的符號是不准確的,儘管作為符號是經濟的。實際上,我們以這些隨機變量生成的 sigma 代數為條件。換句話說意思是. 這句話在“非正式治療”中可能看起來不合適,但它提醒我們,我們的條件實體是集合的集合(當我們以單個值為條件時,這是一個單例集合)。這些套裝包含什麼?它們包含隨機變量的可能值的信息向我們提供有關實現的可能發生的事情.

引入信息的概念,允許我們以非常直觀的方式思考(和使用)迭代期望定律(有時稱為“塔屬性”):

由兩個隨機變量生成的 sigma 代數至少為與一個隨機變量生成的一樣大:在適當的集合論意義。所以有關信息包含在至少與中的相應信息一樣大.

現在,作為符號影射,設置和. 然後我們正在查看的方程的 LHS 可以寫成

用語言描述上面的表達式,我們有:“{{theexpected value of給定信息} 鑑於我們有可用的信息 只有?” 我們能否以某種方式“考慮”? 不——我們只知道. 但是如果我們使用我們所擁有的(因為我們必須要解決的表達式),那麼我們本質上是在說關於在期望運算符下,即我們說“”,不再——我們剛剛用盡了我們的信息。

因此

如果其他人不這樣做,我將返回接受正式治療。

(多一點)正式治療

讓我們看看兩本非常重要的概率論書籍,P. Billingsley 的 Probability and Measure(3d ed.-1995)和 D. Williams “Probability with Martingales”(1991)如何處理證明“迭代期望定律”的問題:

Billingsley 只用了三行來證明這一點。威廉姆斯,我引用,說

“(塔樓財產)幾乎直接來自有條件期望的定義”。

那是一行文字。比林斯利的證明同樣不透明。

他們當然是對的:條件期望的這個重要且非常直觀的屬性基本上直接(並且幾乎立即)從它的定義中得出——唯一的問題是,我懷疑這個定義通常沒有被教授,或者至少沒有被強調,在概率之外或測量理論圈。但是為了在(幾乎)三行中表明迭代期望定律成立,我們需要條件期望的定義,或者更確切地說,它的定義屬性

設一個概率空間, 和一個可積的隨機變量. 讓成為一個子- 代數,. 那麼存在一個函數那是-measurable,可積且(這是定義屬性)

在哪裡是集合的指示函數. 我們說是(“一個版本”)的條件期望給定,我們寫

這裡要注意的關鍵細節是條件期望具有相同的期望值確實,不只是在整個,但在每個子集中的.

(我現在將嘗試介紹 Tower 屬性是如何從條件期望的定義中推導出來的)。

是一個- 可測量的隨機變量。然後考慮一些子-代數,比如說. 然後. 因此,以與前麵類似的方式,我們有條件期望給定, 說其特點是

自從, 方程和給我們

但這是條件期望的定義屬性給定. 所以我們有權寫

由於我們也通過建設,我們剛剛證明了 Tower 屬性,或迭代期望定律的一般形式 - 八行。

引用自:https://stats.stackexchange.com/questions/95947

comments powered by Disqus