Time-Series

什麼保證了 Wold 分解的有限表示的存在?力學與直覺

  • November 29, 2018

每個協方差平穩過程都可以寫成線性的、無限分佈的白噪聲滯後。換句話說,每個協方差平穩過程都有一個 Wold 表示。然後我們繼續說,這種無限分佈的白噪聲滯後總是可以用 2 個有限階滯後多項式的比率來近似。換句話說,對於每個 Wold 表示(無限),都有一個近似值(有限)。很難高估這種近似存在的重要性,因為沒有它就沒有 ARMA 建模,這是線性時間序列建模的核心,然而我看過的每一本教科書都只提到了這樣一個一句話的近似,彷彿這是不言而喻的事實。

(1) 為什麼無限 Wold 表示總是可以用兩個有限階多項式的比率來近似?是什麼保證了這種近似的存在?(2) 這個近似值有多好?在某些情況下,近似值是否比在其他情況下更好?

實際上,如果不對 Wold 表示中的傳遞函數的形式做一些進一步的假設,我不認為它總是可以用有限階多項式的比率很好地近似。對於協方差平穩過程,有一些時間序列模型類別,其中這種近似不被認為是足夠的——例如,在處理一些“長記憶”過程時。


通過譜密度分析:為了深入了解時間序列分析的這一方面,查看協方差平穩過程的譜密度很有用。這是相當自然的,因為它使我們能夠看到頻率空間中的過程。考慮協方差平穩過程 $ { X_t | t \in \mathbb{Z} } $ ,這意味著它的前兩個時刻具有以下形式:

$$ \mathbb{E}(X_t) = \mu \quad \quad \quad \mathbb{Cov}(X_{t+r}, X_{t}) = \gamma(r), $$

在哪裡 $ \gamma $ 稱為傳遞函數。如果該過程具有絕對連續的光譜密度,那麼我們可以將其寫為:

$$ f(\delta) = \frac{1}{2 \pi} \sum_{r \in \mathbb{Z}} \gamma(r) e^{2 \pi i r \delta}. $$

這個函數是周期性的,我們可以在奈奎斯特範圍內檢查它 $ \tfrac{1}{2} \leqslant \delta \leqslant \tfrac{1}{2} $ ,它給出了一個完整的周期。現在,在標準 ARMA 表示下 $ \phi(B) X_t = \theta(B) \varepsilon_t $ 和 $ \sigma^2 = \mathbb{V}(\varepsilon_t) $ (這導致兩個有限多項式的比率 $ \text{MA}(\infty) $ 表示)我們得到譜密度:

$$ f(\delta) = \frac{\sigma^2}{2 \pi} \bigg| \frac{\theta(e^{2 \pi i r \delta})}{\phi(e^{2 \pi i r \delta})} \bigg|^2. $$

特別是,在零頻率下,我們得到:

$$ f(0) = \frac{\sigma^2}{2 \pi} \bigg| \frac{\theta(1)}{\phi(1)} \bigg|^2. $$

對於許多協方差平穩過程,這種形式非常接近真實的光譜密度。但是,某些類型的協方差平穩時間序列不能很好地用這種形式逼近。影響這一點的具體因素是尾部傳遞函數的衰減率(例如指數衰減、冪律衰減等)以及時間序列過程是“短記憶”還是“長記憶”。

ARMA 表示不是特別好的近似值的一種特定情況是時間序列過程具有“長記憶”。這種現像是由光譜特性定義的 $ f(0)=\infty $ ,這意味著傳遞函數具有發散和 $ \sum_{r \in \mathbb{Z}} \gamma(r) = \infty $ . 此屬性無法在標準 ARMA 形式中實現,因為 $ |\theta(1)| \leqslant \sum_i |\theta_i| < \infty $ 和 $ |\phi(1)|>0 $ .


為什麼無限 Wold 表示總是可以通過兩個有限階多項式的比率來近似?

除非你對近似值施加一些精度要求或收斂條件,否則任何東西可以用任何東西來近似。所以問題真的變成了,在什麼條件下,我們可以用 ARMA 模型逼近 Wold 表示並且仍然獲得良好的逼近屬性(例如,收斂性、有限階模型的任意精度等)?我將在您隨後的問題中解決這個問題。

是什麼保證了這種近似的存在?

Wold 表示中傳遞函數的某些一般形式可以表示為冪級數,該冪級數可以通過有限有理函數(即兩個有限多項式的比率)近似到任意精度。這是實數/複數分析中的一個廣泛主題,我建議您回到基礎並查看函數的泰勒級數表示的一般主題,以及全純/解析函數的類。您將看到某些令人討厭的函數類別(例如,週期函數)不能被多項式很好地逼近,而其他函數不能被有限多項式的比率很好地逼近。

如前所述,如果不對傳遞函數的形式做一些進一步的假設,我不認為它總是可以通過有限階多項式的比率很好地近似。在某些類型的協方差平穩時間序列過程中,傳遞函數是“討厭的”並且不能很好地被 ARMA 形式逼近。這種情況的一個具體情況是“長記憶”進程。

這裡的另一個答案指出,任何亞純函數都可以通過有限有理函數(即兩個有限多項式的比率)很好地逼近。這是真的,但它只是將問題向後推了一步:Wold 表示中的傳遞函數在什麼條件下會產生亞純冪級數?

這個近似值有多好?在某些情況下,近似值是否比在其他情況下更好?

在某些情況下,通過 ARMA 模型進行近似肯定比其他情況更好。ARMA 模型可以很好地逼近大多數“短內存”進程,但它們並不擅長逼近“長內存”進程。更一般的問題是,近似值有多好,足以填滿整本書——答案將取決於 Wold 表示中傳遞函數的性質,以及如何衡量近似值的“優度”。

引用自:https://stats.stackexchange.com/questions/379522

comments powered by Disqus