Spatial

Matérn協方差函數的基本原理是什麼?

  • January 11, 2018

Matérn協方差函數通常用作高斯過程中的核函數。它是這樣定義的

在哪裡是距離函數(如歐幾里得距離),是伽馬函數,是第二類修正貝塞爾函數,和是正參數。是很多時間被選為或者在實踐中。

很多時候,這個內核比標準的高斯內核工作得更好,因為它“不那麼平滑”,但除此之外,還有其他原因可以讓人們更喜歡這個內核嗎?一些關於它如何表現的幾何直覺,或者對看似神秘的公式的一些解釋將受到高度讚賞。

除了@Dahn 的好答案,我想我會嘗試多說一點關於 Bessel 和 Gamma 函數的來源。獲得協方差函數的一個起點是Bochner 定理

**Theorem (Bochner)**連續平穩函數 $ k(x, y) = \widetilde{k}(|x − y|) $ 是正定的當且僅當 $ \widetilde{k} $ 是有限正測度的傅里葉變換: $$ \widetilde{k}(t) = \int_{\mathbb{R}} e^{−iωt}\mathrm{d}µ(ω) . $$

由此您可以推斷出 Matérn 協方差矩陣導出為的傅里葉變換 $ \frac{1}{(1+\omega^2)^p} $ (來源:杜蘭德)。這一切都很好,但它並沒有真正告訴我們你是如何得出這個由 $ \frac{1}{(1+\omega^2)^p} $ . 嗯,它是隨機過程的(功率)譜密度 $ f(x) $ .

哪個隨機過程?眾所周知,一個隨機過程 $ \mathbb{R}^d $ 具有 Matérn 協方差函數是隨機偏微分方程 (SPDE) 的解 $$ (κ^2 − ∆)^{α/2} X(s) = φW(s), $$ 在哪裡 $ W(s) $ 是具有單位方差的高斯白噪聲,$$ \Delta = \sum_{i=1}^d \frac{\partial^2}{\partial x^2_i} $$是拉普拉斯算子,並且 $ α =ν + d/2 $ (我認為這是在Cressie 和 Wikle 中)。

為什麼選擇這個特定的 SPDE/隨機過程?起源於空間統計,有人認為這是最簡單和自然的協方差,在 $ \mathbb{R}^2 $ :

指數相關函數是一維的自然相關,因為它對應於馬爾可夫過程。儘管指數是地統計工作中常見的相關函數,但在二維中情況不再如此。Whittle (1954) 確定了對應於拉普拉斯型隨機微分方程的相關性:

$$ \left[ \left(\frac{\partial}{\partial t_1}\right)^2 + \left(\frac{\partial}{\partial t_2}\right)^2 - \kappa^2 \right] X(t_1, t_2) = \epsilon(t_1 , t_2) $$ 在哪裡 $ \epsilon $ 是白噪聲。相應的離散格過程是二階自回歸。(來源:Guttorp&Gneiting)

包含在與 Matérn 方程相關的 SDE 中的過程族包括 $ AR(1) $ 進行布朗運動的粒子速度的Ornstein-Uhlenbeck 模型。更一般地,您可以定義一個系列的功率譜 $ AR(p) $ 處理每個整數 $ p $ 它也有一個 Matérn 家族協方差。這在拉斯穆森和威廉姆斯的附錄中。

該協方差函數與 Matérn 聚類過程無關

參考

Cressie、Noel 和 Christopher K. Wikle。時空數據的統計。約翰威利父子公司,2015 年。

古托普、彼得和蒂爾曼·格奈廷。“關於 Matern 相關族的概率和統計史 XLIX 的研究。” Biometrika 93.4 (2006):989-995。

Rasmussen,CE 和 Williams,CKI 機器學習高斯過程。麻省理工學院出版社,2006 年。

引用自:https://stats.stackexchange.com/questions/322523

comments powered by Disqus