內核回歸類似於高斯過程回歸嗎？

我之前使用過 Nadaraya-Watson 內核回歸來平滑數據。最近我遇到了高斯過程回歸。

從表面上看，它們似乎沒有關係。但我想知道是否可能存在我不知道的更深層次的聯繫。Nadaraya-Watson 核回歸是 GPR 的一個特例嗎？

是的，有聯繫，取決於 GP 協方差函數和平滑器的內核。它在機器學習的高斯過程的第 2 章（第 2.6 節）中進行了討論。請注意，即使是簡單的協方差函數，例如平方指數，由於函數的光譜特性，也會產生復雜的等效核。

其他需要注意的是：

• 在多變量設置中，N-WKR 歸結為每個維度的單變量回歸（請參閱此答案），而 GP 可以對完整的多變量協方差建模。
• 沒有等價於 GP 均值函數
• N-WKR 中的內核不必是有效的 GP 協方差函數，並且每個內核可能沒有等效的協方差函數
• 例如，週期性協方差函數沒有明顯的等價物作為內核平滑器
• 在 GP 中，您可以自由組合協方差函數（例如，通過乘法或加法），參見例如內核食譜

引用自：https://stats.stackexchange.com/questions/242984