Gaussian-Process
高斯過程：函數逼近性質
我正在學習高斯過程，只聽說過零碎的東西。非常感謝評論和答案。
對於任何一組數據，高斯過程函數近似是否會在數據點處給出零或可忽略的擬合誤差？在另一個地方，我還聽說高斯過程特別適用於嘈雜的數據。這似乎與任何觀察到的數據的低擬合誤差相衝突？
此外，離數據點越遠，似乎有更多的不確定性（更大的協方差）。如果是這樣，它的行為是否像本地模型（RBF 等）？
最後，是否有任何普遍的近似屬性？
假設數據樣本是. 還假設，我們有一個協方差函數以及為 Gussian 過程指定的零均值。分配新點將是具有均值的高斯
和方差向量是協方差向量，矩陣是樣本協方差矩陣。如果我們使用樣本插值屬性的後驗分佈的平均值進行預測。真的，
但是，如果我們使用正則化，即包含白噪聲項，情況並非如此。在這種情況下，樣本的協方差矩陣具有形式，但是對於具有實函數值的協方差，我們有協方差矩陣, 後均值為
此外，正則化使問題在計算上更加穩定。 選擇噪聲方差我們可以選擇是否需要插值（）或者我們想要處理嘈雜的觀察（很大）。
此外，高斯過程回歸是局部方法，因為預測的方差隨著與學習樣本的距離而增長，但我們可以選擇適當的協方差函數並處理比 RBF 更複雜的問題。另一個不錯的特性是參數數量少。通常它等於， 在哪裡是數據維度。