誰能指出我的 Tikhonov 正則化(正則化最小二乘法)在線(遞歸)算法的方向?
在離線設置中,我會計算使用我的原始數據集使用 n 折交叉驗證找到。一個新的可以預測給定的值使用.
在在線環境中,我不斷地繪製新的數據點。我該如何更新當我繪製新的附加數據樣本而不對整個數據集(原始+新)進行完全重新計算時?
讓, 然後
, 和
, 我們可以得到
根據伍德伯里公式,我們有
因此,
Polyak 平均表明您可以使用
近似和範圍從到. 您可以嘗試在您的情況下選擇最好的為您的遞歸。
我認為如果您應用批量梯度算法,它也可以工作:
引用自:https://stats.stackexchange.com/questions/81740