Regression

Beta分佈和邏輯回歸模型之間有什麼關係?

  • January 31, 2017

我的問題是: Beta 分佈邏輯回歸模型的係數之間的數學關係是什麼?

**舉例說明:**邏輯(sigmoid)函數由下式給出

它用於對邏輯回歸模型中的概率進行建模。讓做個二分法得分結果和一個設計矩陣。邏輯回歸模型由下式給出

筆記有第一列常數(攔截)和是回歸係數的列向量。例如,當我們有一個(標準正態)回歸量時並選擇(攔截)和,我們可以模擬由此產生的“概率分佈”。

P(A=1|X) 的直方圖

該圖提醒了 Beta 分佈(其他選擇的圖也是如此)) 其密度由下式給出

使用最大似然或矩方法可以估計和從分佈. 因此,我的問題歸結為:選擇之間的關係是什麼?和和? 這首先解決了上面給出的雙變量情況。

Beta是值的分佈形狀非常靈活的範圍,因此對於幾乎任何單峰經驗值分佈您可以輕鬆找到“類似於”分佈形狀的這種 beta 分佈的參數。

請注意,邏輯回歸為您提供條件概率,而在您的情節中,您向我們展示了預測概率的邊際分佈。這是兩個不同的話題。

從邏輯回歸模型中查看預測的分佈時,邏輯回歸參數與貝塔分佈參數之間沒有直接關係。您可以在下面看到使用邏輯函數轉換的正態分佈、指數分佈和均勻分佈模擬的數據。除了使用完全相同的邏輯回歸參數(即),預測概率的分佈是非常不同的。所以預測概率的分佈不僅取決於邏輯回歸的參數,還取決於的,它們之間沒有簡單的關係。

在正態、指數和均勻分佈下模擬的數據的邏輯函數

因為 beta 是值的分佈,那麼它不能像邏輯回歸那樣用於對二進制數據進行建模。它可以用來對概率建模,這樣我們就可以使用beta 回歸(另見這里這裡)。因此,如果您對概率(理解為隨機變量)的行為感興趣,您可以為此目的使用 beta 回歸。

引用自:https://stats.stackexchange.com/questions/259131

comments powered by Disqus