Self-Study
沒有截距的回歸:推導β^1β^1hat{beta}_1最小二乘法(無矩陣)
在An Introduction to Statistical Learning (James et al.) 的第 3.7 節練習 5 中,它指出公式假設沒有截距的線性回歸是
在哪裡和是 OLS 下簡單線性回歸的通常估計值()。 這不是實際的練習;我只是想知道如何推導出方程。不使用矩陣代數,我如何推導它?
我的嘗試:與, 我們有.
經過一些代數,可以證明和. 從這裡開始,我被困住了。
這從普通最小二乘定義很簡單。如果沒有截距,那就是最小化. 這是平滑的,所以當導數為零時,所有最小值(或最大值)都會出現。區別於我們得到. 解決給出公式。