什麼保證了 Wold 分解的有限表示的存在?力學與直覺
每個協方差平穩過程都可以寫成線性的、無限分佈的白噪聲滯後。換句話說,每個協方差平穩過程都有一個 Wold 表示。然後我們繼續說,這種無限分佈的白噪聲滯後總是可以用 2 個有限階滯後多項式的比率來近似。換句話說,對於每個 Wold 表示(無限),都有一個近似值(有限)。很難高估這種近似存在的重要性,因為沒有它就沒有 ARMA 建模,這是線性時間序列建模的核心,然而我看過的每一本教科書都只提到了這樣一個一句話的近似,彷彿這是不言而喻的事實。
(1) 為什麼無限 Wold 表示總是可以用兩個有限階多項式的比率來近似?是什麼保證了這種近似的存在?(2) 這個近似值有多好?在某些情況下,近似值是否比在其他情況下更好?
實際上,如果不對 Wold 表示中的傳遞函數的形式做一些進一步的假設,我不認為它總是可以用有限階多項式的比率很好地近似。對於協方差平穩過程,有一些時間序列模型類別,其中這種近似不被認為是足夠的——例如,在處理一些“長記憶”過程時。
通過譜密度分析:為了深入了解時間序列分析的這一方面,查看協方差平穩過程的譜密度很有用。這是相當自然的,因為它使我們能夠看到頻率空間中的過程。考慮協方差平穩過程 Xt|t∈Z ,這意味著它的前兩個時刻具有以下形式:
E(Xt)=μCov(Xt+r,Xt)=γ(r),
在哪裡 γ 稱為傳遞函數。如果該過程具有絕對連續的光譜密度,那麼我們可以將其寫為:
f(δ)=12π∑r∈Zγ(r)e2πirδ.
這個函數是周期性的,我們可以在奈奎斯特範圍內檢查它 12⩽δ⩽12 ,它給出了一個完整的周期。現在,在標準 ARMA 表示下 ϕ(B)Xt=θ(B)εt 和 σ2=V(εt) (這導致兩個有限多項式的比率 MA(∞) 表示)我們得到譜密度:
f(δ)=σ22π|θ(e2πirδ)ϕ(e2πirδ)|2.
特別是,在零頻率下,我們得到:
f(0)=σ22π|θ(1)ϕ(1)|2.
對於許多協方差平穩過程,這種形式非常接近真實的光譜密度。但是,某些類型的協方差平穩時間序列不能很好地用這種形式逼近。影響這一點的具體因素是尾部傳遞函數的衰減率(例如指數衰減、冪律衰減等)以及時間序列過程是“短記憶”還是“長記憶”。
ARMA 表示不是特別好的近似值的一種特定情況是時間序列過程具有“長記憶”。這種現像是由光譜特性定義的 f(0)=∞ ,這意味著傳遞函數具有發散和 ∑r∈Zγ(r)=∞ . 此屬性無法在標準 ARMA 形式中實現,因為 |θ(1)|⩽∑i|θi|<∞ 和 |ϕ(1)|>0 .
為什麼無限 Wold 表示總是可以通過兩個有限階多項式的比率來近似?
除非你對近似值施加一些精度要求或收斂條件,否則任何東西都可以用任何東西來近似。所以問題真的變成了,在什麼條件下,我們可以用 ARMA 模型逼近 Wold 表示並且仍然獲得良好的逼近屬性(例如,收斂性、有限階模型的任意精度等)?我將在您隨後的問題中解決這個問題。
是什麼保證了這種近似的存在?
Wold 表示中傳遞函數的某些一般形式可以表示為冪級數,該冪級數可以通過有限有理函數(即兩個有限多項式的比率)近似到任意精度。這是實數/複數分析中的一個廣泛主題,我建議您回到基礎並查看函數的泰勒級數表示的一般主題,以及全純/解析函數的類。您將看到某些令人討厭的函數類別(例如,週期函數)不能被多項式很好地逼近,而其他函數不能被有限多項式的比率很好地逼近。
如前所述,如果不對傳遞函數的形式做一些進一步的假設,我不認為它總是可以通過有限階多項式的比率很好地近似。在某些類型的協方差平穩時間序列過程中,傳遞函數是“討厭的”並且不能很好地被 ARMA 形式逼近。這種情況的一個具體情況是“長記憶”進程。
這裡的另一個答案指出,任何亞純函數都可以通過有限有理函數(即兩個有限多項式的比率)很好地逼近。這是真的,但它只是將問題向後推了一步:Wold 表示中的傳遞函數在什麼條件下會產生亞純冪級數?
這個近似值有多好?在某些情況下,近似值是否比在其他情況下更好?
在某些情況下,通過 ARMA 模型進行近似肯定比其他情況更好。ARMA 模型可以很好地逼近大多數“短內存”進程,但它們並不擅長逼近“長內存”進程。更一般的問題是,近似值有多好,足以填滿整本書——答案將取決於 Wold 表示中傳遞函數的性質,以及如何衡量近似值的“優度”。