邏輯回歸的對數似然函數如下:
包括懲罰和 L1/L2 正則化的成本函數如下,見鏈接
我了解 C 和 L1/L2 範數,但無法推導成本函數,有人可以幫助推導過程嗎?
您的對數似然是:
在哪裡
在哪裡但是我們定義了.
為了得到圖像中的損失函數,首先我們需要在模型中添加一個截距,替換和. 然後:
然後我們添加一個正則化器:
然後我們在哪裡設置. 這罰款是
那當我們區分時只是為了數學上的方便而完成的,它並沒有真正影響任何事情。這處罰有
引用自:https://stats.stackexchange.com/questions/235514