Regression
增量高斯過程回歸
我想使用通過流逐一到達的數據點上的滑動窗口來實現增量高斯過程回歸。
讓表示輸入空間的維度。所以，每個數據點擁有元素的數量。
讓為滑動窗口的大小。
為了做出預測，我需要計算 gram 矩陣的逆， 在哪裡k 是平方指數核。
為了避免 K 隨每個新數據點變大，我想我可以在添加新點之前刪除最舊的數據點，這樣可以防止 gram 增長。例如，讓在哪裡是權重的協方差和是平方指數核隱含的映射函數。
現在讓] 和在哪裡是經過列矩陣。
我需要一種有效的方法來找到可能使用. 這看起來不像可以用 Sherman-Morrison 公式有效處理的秩 1 更新矩陣問題的逆問題。
有幾種遞歸算法可以做到這一點。您應該查看內核遞歸最小二乘 (KRLS) 算法和相關的在線 GP 算法。
- Van Vaerenbergh, S., Santamaria, I., Liu, W. 和 Principe, JC (2010)。固定預算內核遞歸最小二乘法。在聲學語音和信號處理 (ICASSP)，2010 年 IEEE 國際會議上，第 1882-1885 頁。IEEE。
- Lazaro-Gredilla, M.、Van Vaerenbergh, S. 和 Santamaria, I. (2011)。使用核遞歸最小二乘法進行跟踪的貝葉斯方法。在用於信號處理的機器學習 (MLSP) 中，2011 年 IEEE 國際研討會，第 1-6 頁。IEEE。
- Perez-Cruz, F.、Van Vaerenbergh, S.、Murillo-Fuentes, JJ、Lazaro-Gredilla, M. 和 Santamaria, I. (2013)。非線性信號處理的高斯過程：最新進展概述。IEEE 信號處理雜誌，30(4):40-50。