Fisher 一致性與“標準”一致性
我的問題涉及兩種類型的一致性。特別是,Fisher 一致性與標準一致性概念有何不同,例如生成參數的概率收斂。這兩者什麼時候會不同?
遵循https://en.wikipedia.org/wiki/Fisher_consistency Fisher 一致性意味著,如果估計量是使用完整總體而不是樣本計算的,則將獲得正確的值。漸近一致性意味著隨著樣本量趨於無窮大,估計量以概率收斂到真值。這兩個概念都不包含另一個概念,請參閱上面的維基百科文章以獲取示例。
我會舉一些其他的例子,不是來自維基百科的文章,我覺得不是特別清楚!
讓 $ X_1, X_2, \dots, X_n $ 是來自由累積分佈函數描述的總體的隨機樣本 $ F $ . 現在我們將考慮“函數參數”,即可以寫成函數的參數 $ F $ , $$ \theta = \theta(F) $$ 例如期望 $ \mu=\mu(F)=\int_{-\infty}^\infty x; dF(x) $ (這裡這個符號表示一個黎曼-斯蒂爾切斯積分,它等於 $ \int_{-\infty}^\infty x f(x) ; dx $ 在連續情況下和在離散情況下求和)。另一個例子是中位數 $ m=F^{-1}(0.5) $ , 四分位距 $ \text{IQR} = F^{-1}(0.75) - F^{-1}(0.25) $ 以及許多其他示例,例如方差 $ \sigma^2 = \int_{-\infty}^\infty (x-\mu)^2; dF(x) $ .
下面讓我們使用期望 $ \mu $ 例如。所以我們有興趣從我們的樣本中進行估計 $ \mu=\int_{-\infty}^\infty x; dF(x) $ . 一個估計量是算術平均值,可以寫成 $$ \bar{x}=\frac1{n}\sum x_i = \int_{-\infty}^\infty x; d\hat{F}_n(x) $$ 在哪裡 $ \hat{F}_n $ 表示經驗分佈函數。在人口中的價值 $ F $ 通過替換獲得 $ \hat{F}_n $ 經過 $ F $ 和 是真實期望,表明算術平均值是 Fisher 一致的。
現在,也許您全神貫注於算術平均值的“缺乏穩健性”,例如,它受到異常值的過度影響。所以你想要一些更健壯(或有抵抗力)的估計器。其中兩個是中位數和 winzorized 均值,即丟棄一些最小和最大觀測值後的算術均值。例如,經驗中位數將是均值的無偏估計 $ \mu $ 在對稱的家庭,如正常。但是,作為均值估計量的中位數不是 Fisher 一致的。經驗中位數可以寫成 $ \hat{F}_n^{-1}(0.5) $ 並在人群中進行評估 $ F $ 這通常與平均值不同。
winzorized 方法也是如此。許多其他穩健的估計器也不會是 Fisher 一致的。
Fisher-consistency 是關於“在模型中做正確的事情”,而穩健性是關於在模型不正確時也在模型的某些鄰域中獲得合理的答案。這些是不同的目標。
原始海報在評論中說:“我希望除了病理學之外,(經典)一致的估計量也是 Fisher 一致的。” 這種期待是沒有根據的!一個簡單的例子是通常的無偏方差估計, $ s^2 = \frac1{n-1}\sum_{i=1}^n \left(x_i-\bar{x} \right)^2 $ . 這在通常意義上是公正和一致的(無論是 $ F $ ,只要它有方差!)。這可以寫成函數形式(在一些代數之後……) $$ s^2=\frac{n}{n-1} \left{ \int x^2 ; d\hat{F}_n(x) - \left(\int x ; d\hat{F}_n(x) \right)^2 \right}, $$ 其中,在真實人口中評估 $ F $ 是 $ \frac{n}{n-1}\sigma^2 $ 所以不是Fisher一致的。我們看到這是因為 Fisher 一致性的概念不是漸近的,所以 $ \frac{n}{n-1} $ 不要像在漸近一致性的情況下那樣“消失”。因此,許多通常的,根本不是“病態”估計量將是漸近一致的,但不是 Fisher 一致的。相反的情況可能更不尋常?在另一種情況下,我很難找到一個自然的反例,Fisher 一致但不是漸近一致的。我想一個要搜索的地方是不存在漸近一致估計量的情況!