“逐步回歸”如何工作？

我使用以下 R 代碼來擬合概率模型：

p1 <- glm(natijeh ~ ., family=binomial(probit), data=data1)
stepwise(p1, direction='backward/forward', criterion='BIC')

我想知道究竟做什麼stepwise和backward/forward做什麼以及如何選擇變量？

逐步選擇原則

1. 你用你想要的所有變量擬合一個模型。這是您目前最好的模型。
2. 根據BIC（或任何其他標準，例如AIC）。您將獲得另一個“當前最佳模型”。

你重複 2. 直到 BIC 沒有減少。您只有 BIC 的局部最小值，這意味著您可能無法在所有可能的變量子集選擇中獲得最佳模型。但是不管怎樣，通常它們太多了，所以這是一種優化一點的方法，不需要太多的工作。

另請參閱Wikipedia 上的逐步回歸和模型選擇。

引用自：https://stats.stackexchange.com/questions/69452