Generalized-Linear-Model
為什麼我們在擬合 GLM 時對使用 Fisher 評分大驚小怪？
我很好奇為什麼我們將擬合 GLMS 視為一些特殊的優化問題。他們是嗎？在我看來，它們只是最大可能性，我們寫下可能性，然後……我們最大化它！那麼為什麼我們使用 Fisher 評分而不是應用數學文獻中開發的無數優化方案呢？
Fisher 的評分只是牛頓方法的一個版本，恰好與 GLM 相同，沒有什麼特別的，除了對於指數族中的隨機變量，Fisher 的信息矩陣很容易找到。它還與許多其他幾乎同時出現的數學統計材料相關聯，並為Fisher信息的確切含義提供了很好的幾何直覺。
如果您願意，我絕對沒有理由不使用其他優化器，除了您可能必須手動編寫代碼而不是使用預先存在的包。我懷疑對費舍爾評分的任何強調都是（按權重遞減的順序）教學法、推導容易性、歷史偏見和“此處未發明”綜合症的組合。