兩個協方差矩陣的和和乘積也是協方差矩陣嗎？
假設我有協方差矩陣和. 那麼這些選項中的哪些也是協方差矩陣？
我有點難以理解要成為協方差矩陣的東西到底需要什麼。我想這意味著例如，如果， 和要使 1 成立，我們應該有， 在哪裡和是其他一些隨機變量。但是，我不明白為什麼這三個選項中的任何一個都適用。任何見解都會受到重視。
背景
協方差矩陣 $ \mathbb{A} $ 對於隨機變量向量 $ X=(X_1, X_2, \ldots, X_n)^\prime $ 體現了計算這些隨機變量的任何線性組合的方差的過程。規則是對於任何係數向量 $ \lambda = (\lambda_1, \ldots, \lambda_n) $ ,
$$ \operatorname{Var}(\lambda X) = \lambda \mathbb{A} \lambda ^\prime.\tag{1} $$
換句話說，矩陣乘法的規則描述了方差的規則。
的兩個屬性 $ \mathbb{A} $ 是直接和明顯的：
- 因為方差是平方值的期望值，所以它們永遠不會是負數。因此，對於所有向量 $ \lambda $ ,$$ 0 \le \operatorname{Var}(\lambda X) = \lambda \mathbb{A} \lambda ^\prime. $$ 協方差矩陣必須是非負定的。
- 方差只是數字——或者，如果您從字面上閱讀矩陣公式，它們是 $ 1\times 1 $ 矩陣。因此，當您轉置它們時，它們不會改變。移調 $ (1) $ 給$$ \lambda \mathbb{A} \lambda ^\prime = \operatorname{Var}(\lambda X) = \operatorname{Var}(\lambda X) ^\prime = \left(\lambda \mathbb{A} \lambda ^\prime\right)^\prime = \lambda \mathbb{A}^\prime \lambda ^\prime. $$ 因為這適用於所有人 $ \lambda $ , $ \mathbb{A} $ 必須等於它的轉置 $ \mathbb{A}^\prime $ ：協方差矩陣必須是對稱的。
更深層次的結果是任何非負定對稱矩陣 $ \mathbb{A} $ 是協方差矩陣。 這意味著實際上存在一些向量值隨機變量 $ X $ 和 $ \mathbb{A} $ 作為它的協方差。我們可以通過顯式構造來證明這一點 $ X $ . 一種方法是注意到（多變量）密度函數 $ f(x_1,\ldots, x_n) $ 與財產$$ \log(f) \propto -\frac{1}{2} (x_1,\ldots,x_n)\mathbb{A}^{-1}(x_1,\ldots,x_n)^\prime $$擁有 $ \mathbb{A} $ 因為它的協方差。（當需要一些美味時 $ \mathbb{A} $ 是不可逆的——但這只是一個技術細節。）
解決方案
讓 $ \mathbb{X} $ 和 $ \mathbb{Y} $ 是協方差矩陣。顯然它們是方形的；如果它們的總和有意義，它們必須具有相同的尺寸。我們只需要檢查這兩個屬性。
- 總和。
- 對稱 $$ (\mathbb{X}+\mathbb{Y})^\prime = \mathbb{X}^\prime + \mathbb{Y}^\prime = (\mathbb{X} + \mathbb{Y}) $$表明總和是對稱的。
- 非負確定性。 讓 $ \lambda $ 是任何向量。然後$$ \lambda(\mathbb{X}+\mathbb{Y})\lambda^\prime = \lambda \mathbb{X}\lambda^\prime + \lambda \mathbb{Y}\lambda^\prime \ge 0 + 0 = 0 $$使用矩陣乘法的基本性質證明了這一點。
- 我把它留作練習。
- 這個很棘手。我用來思考具有挑戰性的矩陣問題的一種方法是使用 $ 2\times 2 $ 矩陣。有一些常見的、熟悉的這種大小的協方差矩陣，例如$$ \pmatrix{a & b \ b & a} $$和 $ a^2 \ge b^2 $ 和 $ a \ge 0 $ . 令人擔憂的是 $ \mathbb{XY} $ 可能不確定：也就是說，在計算方差時它會產生負值嗎？如果是這樣，那麼我們最好在矩陣中有一些負係數。這表明考慮$$ \mathbb{X} = \pmatrix{a & -1 \ -1 & a} $$為了 $ a \ge 1 $ . 為了得到一些有趣的東西，我們最初可能會傾向於矩陣 $ \mathbb{Y} $ 具有不同外觀的結構。想到對角矩陣，例如$$ \mathbb{Y} = \pmatrix{b & 0 \ 0 & 1} $$和 $ b\ge 0 $ . （注意我們如何自由選擇一些係數，例如 $ -1 $ 和 $ 1 $ ，因為我們可以在不改變其基本屬性的情況下重新調整任何協方差矩陣中的所有條目。這簡化了對有趣示例的搜索。）
我留給你計算 $ \mathbb{XY} $ 並測試它是否始終是任何允許值的協方差矩陣 $ a $ 和 $ b $ .