Estimation
多元正態協方差估計器的 Stein 損失
在James 和 Stein (1961)中,作者考慮了估計器的以下損失函數協方差矩陣的多元正態分佈:
這種損失函數在幾篇關於正則化協方差估計的論文中被稱為“Stein 損失”。這種損失函數有什麼直觀的理由嗎?
我注意到損失函數類似於具有相同均值和協方差的兩個多元正態分佈之間的 KL 散度和:
在哪裡
但是我不確定如何簡化積分。
維基百科似乎證實了你的懷疑;Stein 的損失是 KLD(高達 1/2 乘數):
我承認沒有做數學,但我很確定你可以安排術語,所以它相當於高斯 rv 的二次形式的期望。