Normal-Distribution

兩個高斯加權混合的方差是多少?

  • October 6, 2011

假設我有兩個正態分佈 A 和 B 均值和和差異和. 我想使用權重對這兩種分佈進行加權混合和在哪裡和. 我知道這種混合物的平均值是.

方差會是多少?


一個具體的例子是,如果我知道男性和女性身高分佈的參數。如果我的房間裡有 60% 的男性,我可以得出整個房間的預期平均身高,但是方差呢?

方差是二階矩減去一階矩的平方,因此計算混合矩就足夠了。

一般來說,給定的 PDF 分佈和恆定(非隨機)權重, 混合物的 PDF 為

它在任何時候都立即跟隨那

我已經寫了為了的時刻和 為了的時刻.

使用這些公式,方差可以寫成

等效地,如果給出為, 然後,使混合物的方差根據其組成部分的方差和均值寫成

換句話說,這是(加權)平均方差加上平均平方平均值減去平均平均值的平方。因為平方是一個凸函數,Jensen 不等式斷言均方均值不能小於均值的平方。這使我們可以將公式理解為說明混合的方差是方差的混合加上一個非負項,該非負項說明了均值的(加權)分散。

在你的情況下,方差是

我們可以解釋這是兩個方差的加權混合,,加上一個(必然是正的)校正項,以說明單個均值相對於整體混合均值的變化。

這種差異在解釋數據中的效用(例如問題中給出的)是值得懷疑的,因為混合分佈不會是正態的(並且可能會大大偏離它,達到顯示雙峰的程度)。

引用自:https://stats.stackexchange.com/questions/16608

comments powered by Disqus