Monte-Carlo
何時使用梯度下降與蒙特卡洛作為數值優化技術
當一組方程無法解析求解時,我們可以使用梯度下降算法。但似乎也有蒙特卡羅模擬的方法可以用來解決沒有解析解的問題。
如何判斷何時使用梯度下降以及何時使用蒙特卡洛?還是我只是將“模擬”一詞與“優化”混淆了?
非常感謝你!
這些技術做不同的事情。
梯度下降是一種優化技術,因此在任何需要最大化的統計方法(MLE、MAP)中都很常見。
蒙特卡羅模擬是通過從分佈中採樣並評估樣本上的某些函數來計算積分。因此,它通常與需要計算期望值的技術一起使用(貝葉斯推理、貝葉斯假設檢驗)。