為什麼添加解釋變量時殘差平方和不增加？

在我的關於 OLS 的計量經濟學教科書（Introductory Econometrics）中，作者寫道，“當添加另一個解釋變量時，SSR 必定下降。” 為什麼？

假設您有一個線性回歸模型，為了便於表示，請考慮第一個然後是兩個協變量。這概括為兩組協變量。第一個模型是

第二個模型是

這是通過最小化殘差平方和來解決的，對於我們想要最小化的模型一 對於模型二，您要最小化 . 假設您已經找到了模型 1 的正確估計量，那麼您可以通過為模型 2 選擇相同的值來獲得完全相同的殘差平方和並讓. 現在，您可以通過搜索更好的值來找到更低的平方和殘差. 總而言之，模型是嵌套的，從某種意義上說，我們可以用模型 1 建模的所有東西都可以被模型 2 匹配，模型 2 比模型 1 更通用。因此，在優化中，我們對模型 2 有更大的自由度，因此可以總能找到更好的解決方案。

這實際上與統計無關，而是關於優化的一般事實。

引用自：https://stats.stackexchange.com/questions/167827