Normal-Distribution
從多元正態分佈中抽取樣本的 Cholesky 與特徵分解
我想畫一個樣本. 維基百科建議使用Cholesky或Eigendecomposition，即
或者
因此可以通過以下方式抽取樣本：
或者
在哪裡
Wikipedia 建議它們都同樣適用於生成樣本，但 Cholesky 方法的計算時間更快。這是真的？特別是在使用蒙特卡羅方法時，沿對角線的方差可能相差幾個數量級？這個問題有正式的分析嗎？
Straka等人針對Unscented Kalman Filter研究了該問題，該濾波器從多元正態分佈中抽取（確定性）樣本作為算法的一部分。運氣好的話，結果可能適用於蒙特卡羅問題。
Cholesky 分解 (CD) 和特徵分解 (ED) - 就此而言，實際的矩陣平方根(MSR) 都是可以分解正半定矩陣 (PSD) 的所有方式。
考慮 PSD 矩陣的SVD，. 由於 P 是 PSD，這實際上與 ED 相同. 此外，我們可以通過平方根分割對角矩陣：，注意到.
我們現在可以引入一個任意正交矩陣:
.
的選擇實際上會影響估計性能，尤其是當協方差矩陣有很強的非對角元素時。
論文研究了三種選擇:
- , 對應於 ED;
- 從QR分解，對應於CD；和
- 這導致對稱矩陣（即MSR）
經多方分析（引用），本文得出以下結論：
- 對於具有不相關元素的待轉換隨機變量，所有三個考慮的 MD 都提供相同的 sigma 點，因此它們對 [Unscented Transform] 近似的質量幾乎沒有影響。在這種情況下，CD 可能因其低成本而成為首選。
- 如果隨機變量包含相關元素，則使用不同的 [分解] 可能會顯著影響變換後的隨機變量的均值或協方差矩陣的 [Unscented Transform] 逼近的質量。上述兩個案例表明應該首選[ED]。
- 如果待變換變量的元素表現出很強的相關性，使得對應的協方差矩陣幾乎是奇異的，則必須考慮另一個問題，即計算MD的算法的數值穩定性。對於幾乎奇異的協方差矩陣，SVD 在數值上比 ChD 穩定得多。
參考：
- 斯特拉卡，O。杜尼克，J。Simandl, M. & Havlik, J. “無跡卡爾曼濾波器中矩陣分解的方面和比較”，美國控制會議 (ACC)，2013、2013、3075-3080。