Independence

有人解決了 PTLOS 練習 4.1 嗎?

  • March 27, 2011

這是概率論中給出的練習:Edwin Jaynes 的科學邏輯,2003 年。這裡有一個部分解決方案。我已經制定了一個更通用的部分解決方案,並且想知道是否有其他人解決了它。在發布我的答案之前,我會稍等片刻,讓其他人試一試。

好的,假設我們有互斥且窮舉的假設,表示為. 進一步假設我們有數據集,表示為. 第 i 個假設的似然比由下式給出:

請注意,這些是條件概率。現在假設給定第 i 個假設這數據集是獨立的,所以我們有:

現在如果分母也考慮這種情況會很方便,所以我們有:

因為在這種情況下,似然比將拆分為每個數據集的較小因子的乘積,因此我們有:

所以在這種情況下,每個數據集都會“投票支持”或“投反對票" 獨立於任何其他數據集。

練習是為了證明如果(多於兩個假設),沒有這種非平凡的方式可以發生這種因式分解。也就是說,如果您假設條件 1 和條件 2 成立,那麼至多有一個因素:

不同於 1,因此只有 1 個數據集將有助於似然比。 我個人覺得這個結果非常有趣,因為它基本上表明多重假設檢驗不過是一系列二元假設檢驗。

作為記錄,這裡有一個更廣泛的證明。它還包含一些背景信息。也許這對其他研究該主題的人有所幫助。

證明的主要思想是證明 Jaynes 的條件 1 和 2 意味著 $$ P(D_{m_k}|H_iX)=P(D_{m_k}|X), $$ 除一個數據集外的所有數據集 $ m_k=1,\ldots,m $ . 然後它表明對於所有這些數據集,我們也有 $$ P(D_{m_k}|\overline H_iX)=P(D_{m_k}|X). $$ 因此,除了一個數據集外,我們擁有所有數據集, $$ \frac{P(D_{m_k}|H_iX)}{P(D_{m_k}|\overline H_iX)} = \frac{P(D_{m_k}|X)}{P(D_{m_k}|X)} = 1. $$ 我想在此處包含證明的原因是所涉及的某些步驟並不明顯,並且需要注意不要使用除條件 1 和 2 以及乘積規則之外的任何其他內容(與許多其他證明一樣)隱含地做)。上面的鏈接詳細包含了所有這些步驟。它在我的 Google Drive 上,我會確保它保持可訪問性。

引用自:https://stats.stackexchange.com/questions/8823

comments powered by Disqus