Confidence-Interval

probit和logit(以及一般的GLM)預測的置信度和預測區間的推導

  • December 15, 2017

線性模型的預測區間的推導非常簡單:獲得線性模型中預測限的公式

如何得出 logit 和 probit 回歸(以及一般的 GLM)的擬合值的置信區間和****預測區間?

在 GLM 中,預測是一個非線性函數協變量的乘積估計係數向量:

的有限樣本分佈通常是未知的,但只要 是最大似然估計,它具有漸近正態分佈 , 在哪裡是最大似然函數的 Hessian 矩陣。p 值顯示為回歸輸出的幾乎總是基於這種漸近線。但是,如果您覺得您的樣本對於漸近線來說太小了,請使用數值分佈(例如自舉)。 當您使用漸近正態分佈時(因此), 的分佈由於非線性,仍然是非正常的. 您可以忽略它 - 獲得正常的置信範圍為了 , 並將它們插入, 得到界限作為.

另一種策略(稱為delta 方法)是採用泰勒展開式大約- 它將是線性的. 因此,您可以近似分佈作為

然後是漸近的 95% 置信區間看起來像

現在您只需要找到特定模型的 Hessian 矩陣的表達式,例如這個問題中的邏輯回歸。這個問題介紹了邏輯回歸的 bootstrap、變換的正常邊界和 delta 方法的實際比較。

引用自:https://stats.stackexchange.com/questions/319030

comments powered by Disqus