Model-Selection

是否存在 BIC 有用而 AIC 無用的情況?

  • September 29, 2016

Akaike 信息標準的 Wikipedia 條目中,我們在與 BIC(貝葉斯信息標準)的比較下讀到

…AIC/AICc 相對於 BIC 具有理論優勢…AIC/AICc 源於信息原理;BIC 不是…BIC 具有 1/R 的先驗(其中 R 是候選模型的數量),這是“不明智的”…AICc 往往比 BIC 具有實用/性能優勢…AIC 是漸近的最優…BIC 不是漸近最優的…AIC 收斂到最優的速率是…最好的。

在 AIC談話部分,有很多關於與 BIC 部分比較的偏見呈現的評論。一位沮喪的投稿人抗議說整篇文章“讀起來就像是香煙廣告”。

在其他來源中,例如在本論文附錄中,AIC 索賠的主旨似乎更現實。因此,作為對社區的服務,我們要求:

Q:是否存在BIC有用而AIC無用的情況?

根據維基百科,AIC可以寫成如下:

由於 BIC 允許對複雜模型進行大量懲罰,因此在某些情況下,AIC 會提示您應該選擇一個過於復雜的模型,而 BIC 仍然有用。BIC可以寫成:

所以不同之處在於 BIC 對樣本的大小進行懲罰。如果您不想對那裡的樣本進行處罰 可以在這裡找到 Rob Hyndman 的快速解釋:是否有任何理由更喜歡 AIC 或 BIC? 他寫:

  • AIC 最適合預測,因為它漸近等效於交叉驗證。
  • BIC 最適合解釋,因為它允許對基礎數據生成過程進行一致的估計。**

編輯:一個例子可以在時間序列分析中找到。在 VAR 模型中,AIC(及其修正版 AICc)通常會出現許多滯後。因此,在選擇 VAR Modell 的滯後數時,應主要查看 BIC。如需更多信息,您可以閱讀Rob J. Hyndman 和 George Athanasopoulos的Forecasting-Principles and Practice第 9.2 章。

引用自:https://stats.stackexchange.com/questions/237625

comments powered by Disqus