馬爾可夫鏈的中心極限定理
中心極限定理 (CLT) 指出,對於獨立同分佈(iid)和,總和收斂到正態分佈:
假設相反形成具有平穩分佈的有限狀態馬爾可夫鏈期望為 0 和有界方差。對於這種情況,CLT 是否有一個簡單的擴展?
我在 CLT for Markov Chains 上找到的論文通常處理更一般的情況。我將非常感謝您提供指向相關一般結果的指針以及對其應用方式的解釋。
Alex R. 的回答幾乎就足夠了,但我添加了更多細節。在關於馬爾可夫鏈中心極限定理 – Galin L. Jones中,如果你看一下定理 9,它說,
如果 $ X $ 是具有平穩分佈的哈里斯遍歷馬爾可夫鏈 $ \pi $ ,則 CLT 成立 $ f $ 如果 $ X $ 是一致遍歷的並且 $ E[f^2] < \infty $ .
**對於有限狀態空間,所有不可約和非週期馬爾可夫鏈都是一致遍歷的。**對此的證明涉及馬爾可夫鏈理論的一些重要背景。一個很好的參考是第 32 頁,在此處定理 18 的底部。
因此,馬爾可夫鏈 CLT 將適用於任何函數 $ f $ 有一個有限的第二時刻。CLT 採用的形式如下所述。
讓 $ \bar{f}n $ 是時間平均估計量 $ E{\pi}[f] $ ,然後正如 Alex R. 指出的那樣 $ n \to \infty $ , $$ \bar{f}n = \frac{1}{n} \sum{i=1}^n f(X_i) \overset{\text{a.s.}}{\to} E_\pi[f]. $$
馬爾可夫鏈 CLT 是 $$ \sqrt{n} (\bar{f}n - E\pi[f]) \overset{d}{\to} N(0, \sigma^2), $$
在哪裡 $$ \sigma^2 = \underbrace{\operatorname{Var}\pi(f(X_1))}\text{Expected term} + \underbrace{2 \sum_{k=1}^\infty \operatorname{Cov}\pi(f(X_1), f(X{1+k}))}_\text{Term due to Markov chain}. $$
的推導 $ \sigma^2 $ 術語可以在Charles Geyer 的 MCMC 筆記的第 8 頁和第 9 頁找到