Overfitting
飽和模型是過擬合模型的特例嗎？
我試圖弄明白什麼是飽和模型。AFAIK 是當您擁有與觀察一樣多的特徵時。
我們可以說飽和模型是極度過擬合模型的特例嗎？
@Tomka 是對的。對於給定的一組預測變量，飽和模型盡可能多地擬合參數，但它是否過度擬合取決於每個獨特的預測變量模式的觀察次數。假設您有一個包含 100 個觀測值的線性模型在和 100. 那麼模型是飽和的，但肯定不會過度擬合。但如果你有一個觀察對於每個該模型飽和且完美合身——無疑是過度合身†。
當人們談論具有與觀察一樣多的參數的飽和模型時，如鍊接的網頁和簡歷帖子中，他們假設每個預測模式都有一個觀察的上下文。（或者有時可能以不同的方式使用“觀察”——2×2 列聯表中的 100 個個體是對個體的 100 個觀察，還是對細胞頻率的 4 個觀察？）
† 順便說一句，不要從字面上理解“肯定”和“毫無疑問”。第一個模型有可能相比起來太小了你會更好地預測而不試圖估計它，反之亦然。