Anova

ANOVA 是否依賴矩量法而不是最大似然法?

  • December 23, 2015

我在很多地方都提到過 ANOVA 使用矩量法進行估計。

我對這個斷言感到困惑,因為即使我不熟悉矩量法,但我的理解是它不同於最大似然法,也不等同於最大似然法。另一方面,ANOVA 可以看作是具有分類預測變量的線性回歸,回歸參數的 OLS 估計最大似然。

所以:

  1. 什麼使 ANOVA 程序成為矩量法?
  2. 鑑於 ANOVA 等效於具有分類預測變量的 OLS,它不是最大似然嗎?
  3. 如果這兩種方法在通常的 ANOVA 的特殊情況下以某種方式證明是等效的,那麼當差異變得重要時,是否存在一些特定的 ANOVA 情況?不平衡的設計?重複措施?混合(學科間+學科內)設計?

1978 年,我在牛津攻讀碩士時第一次遇到 ANOVA。現代方法通過在多元回歸模型中同時教授連續變量和分類變量,使年輕的統計學家難以理解正在發生的事情。因此,回到更簡單的時代可能會有所幫助。

在其原始形式中,ANOVA 是一種算術練習,您可以將總平方和分解為與治療、塊、交互等相關的部分。在平衡設置中,具有直觀含義的平方和(如 SSB 和 SST)加起來就是調整後的總平方和。這一切都歸功於Cochran 定理。使用 Cochran,您可以在通常的零假設下計算出這些項的預期值,並且 F 統計量從那裡流出。

作為獎勵,一旦您開始考慮 Cochran 和平方和,繼續使用正交對比對您的處理平方和進行切片和切塊是有意義的。ANOVA 表中的每個條目都應具有統計學家感興趣的解釋,並產生可檢驗的假設。

我最近寫了一個答案,其中出現了 MOM 和 ML 方法之間的差異。問題轉向估計隨機效應模型。在這一點上,傳統的方差分析方法與最大似然估計完全分開,效應的估計不再相同。當設計不平衡時,您也不會獲得相同的 F 統計量。

過去,當統計學家想要從裂區或重複測量設計中計算隨機效應時,隨機效應方差是根據 ANOVA 表的均方計算得出的。所以如果你有一個方差圖殘差為,您可能認為圖的均方(“預期均方”,EMS)的期望值為, 和圖中的分割數。您將均方設置為等於其期望並求解. ANOVA 產生了一種隨機效應方差的矩估計方法。現在,我們傾向於使用混合效應模型來解決此類問題,並且通過最大似然估計或 REML 獲得方差分量。

ANOVA 本身不是矩量程序的方法。它打開將平方和(或更一般地,響應的二次形式)拆分為產生有意義假設的分量。它在很大程度上取決於正態性,因為我們希望平方和具有卡方分佈以使 F 檢驗起作用。

最大似然框架更通用,適用於不適用平方和的廣義線性模型等情況。一些軟件(如 R)通過將方差分析方法指定為具有漸近卡方分佈的似然比檢驗來引起混淆。人們可以證明使用“anova”一詞是合理的,但嚴格來說,它背後的理論是不同的。

引用自:https://stats.stackexchange.com/questions/188076

comments powered by Disqus