Regression

遞歸(在線)正則化最小二乘算法

  • January 9, 2014

誰能指出我的 Tikhonov 正則化(正則化最小二乘法)在線(遞歸)算法的方向?

在離線設置中,我會計算使用我的原始數據集使用 n 折交叉驗證找到。一個新的可以預測給定的值使用.

在在線環境中,我不斷地繪製新的數據點。我該如何更新當我繪製新的附加數據樣本而不對整個數據集(原始+新)進行完全重新計算時?

讓, 然後

, 和

, 我們可以得到

根據伍德伯里公式,我們有

因此,

Polyak 平均表明您可以使用 近似和範圍從到. 您可以嘗試在您的情況下選擇最好的為您的遞歸。


我認為如果您應用批量梯度算法,它也可以工作:

引用自:https://stats.stackexchange.com/questions/81740

comments powered by Disqus