Svm
hard margin SVM 的損失函數是什麼？
人們說軟邊距 SVM 使用鉸鏈損失函數：. 然而，soft margin SVM 試圖最小化的實際目標函數是
一些作者稱術語正則化器和術語損失函數。 然而，對於硬邊距 SVM，整個目標函數只是
這是否意味著硬邊距 SVM 僅最小化正則化器而沒有任何損失函數？這聽起來很奇怪。 好吧，如果是這種情況下的損失函數，我們可以稱它為二次損失函數嗎？如果是這樣，為什麼硬邊距支持向量機的損失函數在軟邊距支持向量機中成為正則化器，並從二次損失變為鉸鏈損失？
鉸鏈損失項在軟邊距中，SVM 懲罰錯誤分類。根據定義，在硬邊距 SVM 中，沒有錯誤分類。
這確實意味著硬邊距 SVM 試圖最小化. 由於 SVM 問題的公式化，邊距為. 因此，最小化的範數幾何上等價於最大化邊距。正是我們想要的！
正則化是一種通過懲罰解向量中的大係數來避免過度擬合的技術。在硬邊距 SVM既是損失函數又是正則化器。
在軟邊距 SVM 中，鉸鏈損失項也起到正則化器的作用，但作用於鬆弛變量而不是並且在而不是.正則化會導致稀疏性，這就是標準 SVM 在支持向量方面稀疏的原因（與最小二乘 SVM 相比）。