RNN 建模的可行序列長度是多少？

我正在研究使用循環神經網絡 (RNN) 的 LSTM（長期短期記憶）版本來對時間序列數據進行建模。隨著數據序列長度的增加，網絡的複雜性也隨之增加。因此，我很好奇什麼長度的序列可以以良好的準確性建模？

我想使用一個相對簡單的 LSTM 版本，而沒有任何困難的實現最先進的方法。我的時間序列中的每個觀察都可能有 4 個數值變量，觀察的數量大約在 100.000 到 1.000.000 之間。

這完全取決於數據的性質和內部相關性，沒有經驗法則。但是，鑑於您擁有大量數據，2 層 LSTM 可以對大量時間序列問題/基准進行建模。

此外，您不會通過時間反向傳播到整個系列，而是通常到（200-300）最後一步。要找到最佳值，您可以使用網格搜索或貝葉斯優化進行交叉驗證。此外，您可以在此處查看參數：https ://github.com/wojzaremba/lstm/blob/master/main.lua 。

因此，序列長度並不會真正影響您的模型訓練，但就像擁有更多訓練示例一樣，您只需保持之前的狀態而不是重置它。

引用自：https://stats.stackexchange.com/questions/158834