Machine-Learning

樣本中的低偏差是高方差的同義詞嗎?

  • February 9, 2018

以下是真的嗎?

低偏差 = 高方差

高偏差 = 低方差

我了解高偏差和低偏差,但方差有何不同?還是上面的同義詞?

不,您可以同時擁有兩個高點或兩個低點。這是一個說明示例。圖片和文章來源我也推薦你閱讀這張圖片出處的文章。

在此處輸入圖像描述


您有這種印象的原因是,在機器學習的“早期”,有一個稱為偏差方差權衡的概念(正如@Kodiologist 提到的,這個概念仍然是正確的,並且是今天調整模型的基本概念。)

  • 當增加模型複雜度時,方差增加,偏差減少
  • 正則化模型時,偏差增加,方差減少。

在 Andrew Ng 最近的深度學習 Coursera 講座中,他提到在最近的深度學習框架(數據量巨大)中,人們很少談論權衡。相反,有一些方法可以只減少方差而不增加偏差(例如,增加訓練數據大小),反之亦然。

引用自:https://stats.stackexchange.com/questions/327746

comments powered by Disqus