Optimization

計算多重期望時如何以最佳方式分散平局

  • August 28, 2016

假設我們要計算一些期望:

假設我們想用蒙特卡洛模擬來近似這個。

但是假設從兩個分佈中抽取樣本的成本很高,所以我們只能抽取一個固定的數字.

我們應該如何分配? 例子包括繪製到每個分佈,或者在極端情況下,在外部和吸引內部,反之亦然等……

我的直覺告訴我,這與分佈相對於彼此的方差/熵有關。假設外面的一個是一個質點,那麼最小化 MC 誤差的將抽取 1 個並畫的.

希望這很清楚。

這是一個非常有趣的問題,除了與分層Rao-Blackwellisation相關外,蒙特卡洛文獻中幾乎沒有文獻記載。這可能是由於預期條件方差和條件期望方差的計算很少可行的事實。

首先,讓我們假設您運行模擬來自,並且對於每個模擬, 你跑模擬來自,. 你的蒙特卡洛估計是

這個估計的方差分解如下

因此,如果想要最小化這種差異,最佳選擇是. 暗示著. 除非第一個方差項為空,在這種情況下無關緊要。然而,正如評論中所討論的,假設是不現實的,因為它不考慮生產一個[或假設這是免費的]。 現在讓我們假設不同的模擬成本和預算約束, 意味著的成本比模擬多倍的。那麼上面的方差分解就是

這可以最小化作為

[約束下最接近的整數和],除非第一個方差等於 0,在這種情況下. 什麼時候, 最小方差對應於最大值, 這導致在當前的形式主義中。 另請注意,當內部積分在給定並且外部積分與邊緣相反(假設模擬按此順序也是可行的)。

這個問題的一個有趣的擴展是考慮不同數量的模擬對於每個模擬, 取決於值.

引用自:https://stats.stackexchange.com/questions/232218

comments powered by Disqus