Maximum-Likelihood

REML 或 ML 比較兩個具有不同固定效應但具有相同隨機效應的混合效應模型?

  • September 25, 2014

背景: 注意:我的數據集和R代碼包含在文本下方

我希望使用 AIC 來比較使用lme4R 中的包生成的兩個混合效果模型。每個模型都有一個固定效果和一個隨機效果。模型之間的固定效應不同,但模型之間的隨機效應保持不變。我發現如果我使用REML=TRUEmodel2則 AIC 分數較低,但如果我使用REML=FALSEmodel1則 AIC 分數較低。

支持使用機器學習:

祖爾等人。(2009; p. 122) 建議“要比較具有嵌套固定效應的模型(但具有相同的隨機結構),必須使用 ML 估計而不是 REML。” 這表明我應該使用 ML,因為我的隨機效應在兩個模型中是相同的,但我的固定效應不同。[祖爾等人。2009. R. Springer 在生態學中的混合效應模型和擴展。]

支持使用 REML:

但是,我注意到當我使用 ML 時,與隨機效應相關的殘差方差在兩個模型之間有所不同(model1= 136.3; model2= 112.9),但是當我使用 REML 時,模型之間是相同的(model1=model2=151.5) . 這對我來說意味著我應該改用 REML,以便隨機殘差方差在具有相同隨機變量的模型之間保持相同。

問題:

使用 REML 比使用 ML 來比較固定效應發生變化而隨機效應保持不變的模型不是更有意義嗎?如果不是,你能解釋一下為什麼或指出我其他解釋更多的文獻嗎?

# Model2 "wins" if REML=TRUE:
REMLmodel1 = lmer(Response ~ Fixed1 + (1|Random1),data,REML = TRUE)
REMLmodel2 = lmer(Response ~ Fixed2 + (1|Random1),data,REML = TRUE)
AIC(REMLmodel1,REMLmodel2)
summary(REMLmodel1)
summary(REMLmodel2)

# Model1 "wins" if REML=FALSE:
MLmodel1 = lmer(Response ~ Fixed1 + (1|Random1),data,REML = FALSE)
MLmodel2 = lmer(Response ~ Fixed2 + (1|Random1),data,REML = FALSE)
AIC(MLmodel1,MLmodel2)
summary(MLmodel1)
summary(MLmodel2)

數據集:

Response    Fixed1  Fixed2  Random1
5.20    A   A   1
32.50   A   A   1
6.57    A   A   2
24.77   A   B   3
41.69   A   B   3
34.29   A   B   4
1.80    A   B   4
10.00   A   B   5
15.56   A   B   5
4.44    A   C   6
21.65   A   C   6
9.20    A   C   7
4.11    A   C   7
12.52   B   D   8
0.25    B   D   8
27.34   B   D   9
11.54   B   E   10
0.86    B   E   10
0.68    B   E   11
4.00    B   E   11

Zuur 等人和 Faraway(來自@janhove 上面的評論)是對的;使用基於似然的方法(包括 AIC)來比較兩個具有不同固定效應且由 REML 擬合的模型通常會導致胡說八道。

Faraway (2006)使用 R 擴展線性模型(第 156 頁):

原因是 REML 通過考慮消除固定效應的數據的線性組合來估計隨機效應。如果這些固定效應發生變化,兩個模型的可能性將無法直接比較

這兩個問題進一步討論了這個問題:混合效應模型的允許比較(主要是隨機效應)REML 與 ML stepAIC

引用自:https://stats.stackexchange.com/questions/116770

comments powered by Disqus