Bayesian

貝葉斯估計器是否要求真實參數是先驗的可能變量?

  • April 27, 2018

這可能是一個哲學問題,但我們開始:在決策理論中,貝葉斯估計量的風險為了是相對於先驗分佈定義的在.

現在,一方面,為了真正已生成數據(即“存在”),必須是一個可能的變量,例如具有非零概率、非零密度等;另一方面,是未知的,因此選擇先驗,所以我們不能保證真實的是一個可能的變量我們選擇了。

現在,在我看來,我們必須以某種方式選擇這樣將是一個可能的變量。否則,某些定理將不成立。例如,極小極大估計不會是對最不利先驗的貝葉斯估計,因為我們可以通過排除周圍的大區域並包括從它的域。但是,保證確實是在域中可能很難實現。

所以我的問題是:

  1. 是否一般認為實際是一個可能的變量?
  2. 這能保證嗎?
  3. 至少可以以某種方式檢測到違反這一點的情況,因此當條件不成立時,不依賴諸如極小極大之類的定理?
  4. 如果不需要,那為什麼決策理論中的標準結果成立呢?

非常好的問題!“良好”的先驗分佈為“真實”參數提供正概率或正密度值確實是有道理的,但從純粹的決策角度來看,情況並非如此。這個“直覺”的一個簡單反例

應該是必要的,當是先驗密度和是參數的“真實”值,是Casella 和 Strawderman (1981) 的出色極小值結果:當估計正態平均值時基於單一觀察加上額外的約束, 如果足夠小,具體來說,極小極大估計量對應於(最不利的)統一先驗, 意思是給予同等權重和(並且沒有任何其他平均值的值)

什麼時候增加最不利的先驗看到它的支持增加,但仍然是一組有限的可能值。然而後面的期望,, 可以取任何值.

討論的核心(見評論)可能是,貝葉斯估計是否被限制為支持 , 其性質會大​​不相同。

類似地,在考慮可接受的估計量時,與緊集上的適當先驗相關聯的貝葉斯估計量通常是可接受的,儘管它們的支持有限。

在這兩種情況下,頻率概念(極小值或可接受性)是在可能的參數範圍內定義的,而不是在參數的“真實”值上定義的(這為問題 4 帶來了答案。)例如,查看後驗風險

或冒著貝葉斯風險

不涉及真值. 此外,如上例中所指出的,當貝葉斯估計量由諸如後驗均值之類的正式表達式定義時

對於二次方(或) 損失,這個估計量可能會採用超出支持範圍的值在這種情況下,這種支持不是凸的。 順便說一句,閱讀時

為了讓真實的 θ 生成數據(即“存在”),θ 必須是 π 下的可能變量,例如具有非零概率、非零密度

我認為這是對先驗含義的歪曲。先驗分佈不應該代表看到參數值的實際物理(或真實)機制產生於接著是觀察產生於. 先驗是參數空間的參考度量,它結合了先驗信息和關於參數的主觀信念,絕不是唯一的。貝葉斯分析始終與選擇進行此貝葉斯分析的先驗相關。因此,真正的參數沒有絕對必要屬於. 顯然,當這個支持是緊連通集時,, 集合外的任何參數值不能通過後驗均值一致地估計但這甚至不妨礙估計量被接受。

引用自:https://stats.stackexchange.com/questions/343171

comments powered by Disqus