部分似然、輪廓似然和邊際似然之間有什麼區別?
我看到這些術語正在被使用,我一直把它們混在一起。他們之間的區別有簡單的解釋嗎?
似然函數通常取決於許多參數。根據應用的不同,我們通常只對這些參數的一個子集感興趣。例如,在線性回歸中,興趣通常在於斜率係數而不是誤差方差。
將我們感興趣的參數表示為 $ \beta $ 和不是主要興趣的參數 $ \theta $ . 處理估計問題的標準方法是最大化似然函數,以便我們獲得 $ \beta $ 和 $ \theta $ . 但是,由於主要興趣在於 $ \beta $ 部分可能性、輪廓可能性和邊際可能性提供了估計的替代方法 $ \beta $ 沒有估計 $ \theta $ .
為了看到差異表示標準似然 $ L(\beta, \theta|\mathrm{data}) $ .
最大似然
尋找 $ \beta $ 和 $ \theta $ 最大化 $ L(\beta, \theta|\mathrm{data}) $ .
部分似然
如果我們可以將似然函數寫成:
$$ L(\beta, \theta|\mathrm{data}) = L_1(\beta|\mathrm{data}) L_2(\theta|\mathrm{data}) $$
然後我們簡單地最大化 $ L_1(\beta|\mathrm{data}) $ .
輪廓似然
如果我們能表達 $ \theta $ 作為一個函數 $ \beta $ 然後我們替換 $ \theta $ 與相應的功能。
說, $ \theta = g(\beta) $ . 然後,我們最大化:
$$ L(\beta, g(\beta)|\mathrm{data}) $$
邊際可能性
我們整合出來 $ \theta $ 通過利用我們可以識別概率分佈的事實從似然方程 $ \theta $ 有條件的 $ \beta $ .