貝葉斯與常客辯論是否有任何數學基礎?
它在維基百科上說:
[概率] 的數學在很大程度上獨立於對概率的任何解釋。
**問題:**那麼如果我們想在數學上是正確的,我們不應該不允許對概率的任何解釋嗎?即,貝葉斯和頻率論在數學上都是不正確的嗎?
我不喜歡哲學,但我喜歡數學,而且我只想在 Kolmogorov 公理的框架內工作。如果這是我的目標,是否應該遵循維基百科上所說的我應該拒絕貝葉斯主義和頻率主義?如果這些概念純粹是哲學上的而不是數學上的,那麼為什麼它們首先出現在統計學中?
背景/背景:
這篇博文並沒有說完全一樣的話,但它確實認為,從實用的角度來看,試圖將技術歸類為“貝葉斯”或“頻率論”會適得其反。
如果維基百科的引用是真的,那麼從哲學的角度來看,試圖對統計方法進行分類似乎也會適得其反——如果一種方法在數學上是正確的,那麼當基礎數學的假設時使用該方法是有效的保持,否則,如果它在數學上不正確或假設不成立,則使用它是無效的。
另一方面,很多人似乎將“貝葉斯推理”與概率論(即 Kolmogorov 公理)相提並論,儘管我不太清楚為什麼。一些例子是傑恩斯關於貝葉斯推理的論文“概率”,以及詹姆斯斯通的書“貝葉斯規則”。因此,如果我從表面上看這些說法,那意味著我應該更喜歡貝葉斯主義。
然而,Casella 和 Berger 的書似乎是常客,因為它討論了最大似然估計量但忽略了最大後驗估計量,但其中的所有內容似乎在數學上都是正確的。
那麼,不是說唯一在數學上正確的統計版本是那些拒絕與貝葉斯主義和頻率論完全不可知的統計嗎?如果兩種分類的方法在數學上都是正確的,那麼偏愛某些方法而不是其他方法不是不恰當的做法嗎,因為這會使模糊、定義不明確的哲學優先於精確、定義明確的數學?
**總結:**簡而言之,我不明白貝葉斯與頻率論辯論的數學基礎是什麼,如果辯論沒有數學基礎(這是維基百科聲稱的),我不明白為什麼它被容忍都在學術討論中。
概率空間和 Kolmogorov 公理
一個概率空間根據定義是三倍在哪裡是一組結果,是一個- 子集上的代數和是滿足 Kolmogorov 公理的概率測度,即是一個函數到這樣和不相交的在它認為.
在這樣的概率空間內,對於兩個事件在將條件概率定義為
注意:
- 此“條件概率”僅在以下情況下定義定義在,所以我們需要一個概率空間來定義條件概率。
- 概率空間是用非常一般的術語定義的(一組,一個 -代數和概率測度),唯一的要求是應該滿足某些屬性,但除此之外,這三個元素可以是“任何東西”。
可以在此鏈接中找到更多詳細信息
貝葉斯規則適用於任何(有效)概率空間
從條件概率的定義來看,它也認為. 從後面的兩個方程中,我們找到了貝葉斯規則。因此,貝葉斯規則(根據條件概率的定義)在任何概率空間中都成立(為了顯示它,推導出和從每個方程中提取它們並將它們相等(它們相等,因為交集是可交換的)。
由於貝葉斯規則是貝葉斯推理的基礎,因此可以在任何有效(即滿足所有條件,ao Kolmogorov 公理)概率空間中進行貝葉斯分析。
頻率的概率定義是“特例”
以上持有“一般”,即我們沒有具體的,,只要記住是一個- 子集上的代數和滿足 Kolmogorov 的公理。
我們現在將展示一個“常客”的定義滿足 Kolomogorov 的公理。如果是這樣的話,那麼“頻率論者”的概率只是 Kolmogorov 的一般和抽象概率的一個特例。
讓我們舉個例子,擲骰子。然後是所有可能結果的集合是. 我們還需要一個-這個集合上的代數我們採取的所有子集的集合, IE.
我們仍然需要定義概率測度以常客的方式。因此我們定義作為在哪裡是數量中獲得擲骰子。類似的, ….
這樣為所有單例定義. 對於任何其他設置,例如我們定義以常客的方式,即 ,但根據 ‘lim’ 的線性度,這等於,這意味著 Kolmogorov 的公理成立。
因此,頻率論者對概率的定義只是 Kolomogorov 對概率測度的一般抽象定義的一個特例。
請注意,還有其他方法可以定義滿足 Kolmogorov 公理的概率度量,因此頻率論定義不是唯一可能的定義。
結論
Kolmogorov 公理系統中的概率是“抽象的”,它沒有真正的意義,它只需要滿足稱為“公理”的條件。僅使用這些公理,Kolmogorov 就能夠推導出一組非常豐富的定理。
概率的常客定義滿足了公理,因此取代了抽象的“無意義”通過以頻率論方式定義的概率,所有這些定理都是有效的,因為**“頻率論概率”只是 Kolmogorov 抽象概率的一個特例(即它滿足公理)。**
在 Kolmogorov 的一般框架中可以得出的屬性之一是貝葉斯規則。因為它在一般和抽象框架中成立,它也將在特定情況下成立(cfr supra),即概率以頻率論的方式定義(因為頻率論的定義滿足公理,而這些公理是唯一需要推導出所有定理)。 因此,人們可以用頻率主義的概率定義來進行貝葉斯分析。
定義以常客的方式不是唯一的可能性,還有其他方式來定義它,以使其滿足 Kolmogorov 的抽象公理。貝葉斯規則也適用於這些“特定情況”。因此,也可以使用非頻率定義的概率進行貝葉斯分析。
編輯 23/8/2016
@mpiktas 對您的評論的反應:
正如我所說,集和概率測度在公理系統中沒有特別的意義,它們是抽象的。
為了應用這個理論,你必須給出進一步的定義(所以你在評論中所說的*“不需要用一些奇怪的定義進一步混淆它”*是錯誤的,你需要額外的定義)。
讓我們把它應用到拋硬幣的情況。套裝在 Kolmogorov 的理論中沒有特別的意義,它只是必須是“一個集合”。所以我們必須在公平硬幣的情況下指定這個集合是什麼,即我們必須定義集合. 如果我們將 head 表示為 H,tail 表示為 T,那麼集合根據定義 .
我們還必須定義事件,即-代數. 我們定義為. 很容易驗證是一個-代數。
接下來我們必須為每個事件定義它的措施。所以我們需要從在. 我將以常客的方式定義它,對於一枚公平的硬幣,如果我多次拋擲它,那麼正面的分數將為 0.5,所以我定義. 同樣我定義,和. 注意是一張來自的地圖在並且它滿足了 Kolmogorov 的公理。