Multiple-Regression

3維中的多元線性回歸是最佳擬合平面還是最佳擬合線?

  • July 28, 2016

我們的教授沒有進入多元線性回歸的數學甚至幾何表示,這讓我有點困惑。

一方面,它仍然被稱為多元線性回歸,即使在更高的維度上也是如此。另一方面,如果我們有例如我們可以插入我們想要的任何值和,這不是給我們一個可能的解決方案而不是一條線嗎?

一般來說,我們的預測表面不是維超平面自變量?

你是對的,解決方案表面通常是一個超平面。只是hyperplane這個詞一口,plane更短,line更短。隨著您繼續進行數學運算,一維情況的討論越來越少,因此權衡

Big words for high dimensional, Small words for small dimensional

開始向後看。

例如,當我看到一個等式時 $ Ax = b $ , 在哪裡 $ A $ 是一個矩陣並且 $ x, b $ 是向量,我稱之為線性方程。在我生命的早期,我稱之為線性方程組,為一維情況保留*線性方程。*但後來我發現一維情況並不經常出現,而多維情況無處不在。

這也發生在符號上。見過有人寫

$$ \frac{\partial f}{\partial x} = 2x $$

左邊的那個符號是一個函數的名字,所以為了正式和迂腐,你應該寫

$$ \frac{\partial f}{\partial x}(x) = 2x $$

在多維中情況會變得更糟,當導數有兩個參數時,一個是你在哪裡取導數,另一個是你在哪個方向評估導數,看起來像

$$ \nabla_{x} f (v) $$

但是人們很快就會變得懶惰,並開始放棄一個或另一個論點,讓他們根據上下文來理解。

專業的數學家,口齒不清,把這種*符號的濫用*稱為。有些科目如果不濫用符號,基本上是不可能表達自己的,我心愛的微分幾何就是一個很好的例子。偉大的尼古拉斯·布爾巴基非常雄辯地表達了這一點

我們盡可能在文本中提請注意濫用語言,否則任何數學文本都有學究氣的風險,更不用說不可讀了。

——布爾巴基(1988)

你甚至評論了我在上面沒有註意到的濫用符號!

從技術上講,由於您將 df/dx 寫為​​偏導數,即使其他隱含變量保持不變,偏導數在技術上是否仍然是原始函數的所有變量的函數,如 df/dx ( x, y, …)?

您是完全正確的,這很好地(無意地)說明了我在這裡的意思。

我在日常工作和學習中很少遇到真正的單變量意義上的導數,以至於我基本上已經忘記了 $ \frac{d f}{d x} $ 是這裡的正確表示法。我打算將上述內容與一個變量函數有關,但我無意中通過使用 $ \partial $ .

我猜我認為它是當我們說“無限和”而不是“當項數接近無限時總和的限制”。我的想法是,只要概念上的差異清楚就可以了。在這種情況下(多元回歸),我並不確定我們首先在談論什麼。

是的,這是一種一致的思考方式。唯一真正的區別是我們有一種常見的情況,我們發明了額外的() 符號和術語 ( $ \Sigma $ 和“無限和”)來表達它。在其他情況下,我們概括一個概念,然後這個概括的概念變得如此普遍,以至於我們為概括的概念重用*舊的符號或術語。

作為懶惰的人,我們希望在常見情況下節約用詞。

(*) 從歷史上看,這不是無限和的發展方式。當數學家開始遇到需要非常精確地推理的情況時,部分和定義的極限是後驗發展起來的。

引用自:https://stats.stackexchange.com/questions/226172

comments powered by Disqus