Maximum-Likelihood
從 RMSE 計算可能性
我有一個用於預測具有多個參數的軌跡（x 作為時間的函數）的模型。目前，我計算了預測軌跡和實驗記錄軌蹟之間的均方根誤差 (RMSE)。目前，我使用單純形法（matlab 中的 fminsearch）最小化這種差異（RMSE）。雖然這種方法可以很好地擬合，但我想比較幾個不同的模型，所以我認為我需要計算可能性，以便我可以使用最大似然估計而不是最小化 RMSE（然後使用 AIC 或 BIC 比較模型）。有沒有這樣做的標準方法？
均方根誤差和可能性實際上是密切相關的。假設你有一個數據集對，並且您想使用模型對他們的關係進行建模. 您決定最小化二次誤差
這種選擇不是完全隨意的嗎？當然，與那些幾乎正確的估計相比，你更想懲罰完全錯誤的估計。但是有一個很好的理由使用平方誤差。
記住高斯密度：在哪裡是我們現在不關心的歸一化常數。假設您的目標數據是按照高斯分佈的。所以我們可以寫下數據的可能性。
現在，如果你取這個的對數……
…事實證明，它與 rms 密切相關：唯一的區別是一些常數項、平方根和乘法。
長話短說：最小化均方根誤差等同於最大化數據的對數似然。