Normal-Distribution

兩個高斯隨機向量內積的矩生成函數

  • March 8, 2013

誰能建議我如何計算兩個高斯隨機向量的內積的矩生成函數,每個向量分佈為,相互獨立?是否有一些標準結果可用?任何指針都受到高度讚賞。

首先讓我們解決這個案例. 最後是對任意的(簡單)概括.

首先觀察內積是 iid 變量的總和,每個變量都是兩個獨立 Normal 的乘積變量,從而將問題簡化為找到後者的 mgf,因為總和的 mgf 是 mgfs 的乘積。

mgf 可以通過集成找到,但有一種更簡單的方法。什麼時候和是標準正常的,

是兩個獨立的縮放卡方變量的差。(比例因子是因為方差平等的.) 因為卡方變量的 mgf 是, 的 mf是和 mf 是. 相乘,我們發現所需的 mgf 等於.

(供以後參考,請注意,當和被重新縮放, 他們的產品按比例縮放, 從何而來應該按比例縮放, 也。)

**這應該看起來很熟悉:**直到一些常數因子和一個符號,它看起來像一個學生 t 分佈的概率密度自由程度。(事實上,如果我們一直使用特徵函數而不是 mgfs,我們將獲得,它甚至更接近於 Student t PDF。)不要介意沒有 Student t 這樣的東西dfs——重要的是 mgf 在這顯然是(由二項式定理)。

緊接著這些 iid Gaussian 的內積分佈-vectors 的 mgf 等於-這個mgf的倍乘積,

通過查找學生 t 分佈的特徵函數,我們推斷(使用少量代數或積分來找到歸一化常數)PDF 本身由下式給出

(是貝塞爾函數)。

例如,這是疊加在隨機樣本直方圖上的 PDF 的圖這樣的內積和:

直方圖

很難從模擬中確認 mgf 的準確性,但請注意(來自二項式定理)

我們可以從中讀出時刻(除以階乘)。由於左右對稱,只有偶數時刻很重要。為了我們獲得以下值,與該模擬的原始矩進行比較:

k    mgf           simulation/k!
2    0.09375       0.09424920
4    0.00732422    0.00740436
6    0.00053406    0.00054128
8    0.00003755    0.00003674
10    2.58 e-6      2.17 e-6

正如所料,模擬的高力矩將開始偏離 mgf 給出的力矩;但至少在第十時刻,有很好的一致性。


順便說一句,當分佈是雙指數的。


**要處理一般情況,首先要注意內積是一個與坐標無關的對象。因此,我們可以採用以下的主要方向(特徵向量)作為坐標。在這些坐標中,內積是*獨立正態變量的獨立*乘積之和,每個分量分佈的方差等於其關聯的特徵值。因此,讓非零特徵值是(和),mgf 必須等於

為了確認我在這個推理中沒有錯誤,我制定了一個例子是矩陣

併計算出其特徵值為

可以通過數值評估特徵函數的傅立葉變換來計算 PDF(從此處給出的 mgf 公式得出):此 PDF 的圖在下圖中顯示為紅線。同時,我生成獨立同分佈從正常分佈和另一個獨立同分佈以同樣的方式,計算出點積. 該圖顯示了這些點積的直方圖(省略了一些最極端的值——範圍來自到):

直方圖和 PDF

和以前一樣,協議非常好。 此外,這些時刻在第八場比賽中表現得很好,甚至在第十場比賽中也相當不錯:

k    mgf           simulation/k!
2     1.45313       1.45208
4     2.59009       2.59605
6     5.20824       5.29333
8    11.0994       11.3115
10    24.4166       22.9982


附錄

(2013 年 8 月 9 日添加。)

方差-伽馬分佈的一個實例,最初被定義為“混合密度為伽馬分佈的正態方差-均值混合物”。它有一個標準位置(),不對稱參數(它是對稱的),尺度參數, 和形狀參數(根據維基百科參數化)。

引用自:https://stats.stackexchange.com/questions/51699

comments powered by Disqus