Verteilung der gemeinsamen Gaußschen bedingt durch ihre Summe

Sei A eine deterministische Größenmatrix$n\times n$und lass$v$sei ein Größenvektor$n$. Der Zufallsvektor$(AX, S)$ist gemeinsam normal. Die Idee ist, beides zu konstruieren

1. eine Matrix$A$so dass$AX$ist unabhängig von$S$, Und
2. ein Vektor$v$so dass$X = AX + Sv$.

Warum? Dann haben wir durch die Unabhängigkeit eine kristallklare Beschreibung der Verteilung von$X$gegeben$S=s$: Die Verteilung von$X$gegeben$S=s$ist normal

$$N(sv + A\mu, A\Sigma A^T)$$ .

Nun lasst uns solche finden$A$Und$v$.

• Seit$(AX,S)$gemeinsam normal sind,$AX$ist unabhängig von$S$genau dann, wenn ihre Kovarianzmatrix Null ist, d.h.$E[A(X-\mu)(S - E[S])]=0$. Wenn$u=(1,...,1)\in R^n$, das ist gleichbedeutend mit$E[A(X-\mu)(X-\mu)^T u] = A\Sigma u= 0$.
• Für$v$, die Beziehung$X=AX +vS$zufrieden ist, vorausgesetzt, dass$I_n = A + vu^T$, wo nochmal$u$ist der Vektor$(1,...,1)$. Seit$A\Sigma u =0$, multiplizieren Sie dies mit$\Sigma u$impliziert, dass $$v = \frac{1}{u^T\Sigma u} \Sigma u.$$ Jetzt einstellen $$A = I_n - v u^T.$$ Man verifiziert leicht als eine solche Wahl$A$in der Tat befriedigt$A\Sigma u = 0$, und wir haben gebaut$A$Und$v$die den Anforderungen genügen.

---

Allgemeiner: die Verteilung von$X$gegeben$UX=b$für irgendeine Matrix$U$

Wenn$U$ist ein$k\times n$Rangmatrix$k$und wir möchten die Verteilung von finden$X$bedingt an$UX$, kann die gleiche Technik erweitert werden.

(Im obigen Beispiel$U$ist ein$1\times n$Matrix gleich$u^T$.)

Wir gehen ähnlich vor: Wir suchen nach einer deterministischen Matrix$A$und ein$n\times k$Matrix$C$so dass

1. $AX$Und$UX$unabhängig sind und
2. $I_n = A + CU$so dass$X = AX + CUX$hält immer.

Warum? Wenn wir solche Matrizen finden können$A$Und$C$, dann die Verteilung von$X$gegeben$UX=b$ist normal

$$N(A\mu + Cb, A^T\Sigma A).$$

Seit$AX$Und$UX$zusammen Normal sind, gilt die erste Bedingung genau dann, wenn$E[A(X-\mu)(U(X-\mu))^T] = A\Sigma U^T = 0$. Multiplikation der zweiten Bedingung mit$\Sigma U^T$, das muss es sein$\Sigma U^T = C U \Sigma U^T$, somit

$$C = \Sigma U^T (U\Sigma U^T)^{-1} .$$

Abschließend definieren

$$A = I_n - CU,$$ und überprüfen Sie, ob diese Auswahl von$A$Und$C$in der Tat befriedigen$A\Sigma U^T = 0$und die oben genannten Anforderungen.

(Übrigens die Matrix$U\Sigma U^T$ist tatsächlich jederzeit invertierbar$U$hat vollen Rang$k<n$Und$\Sigma$ist invertierbar. Die Matrix$\Sigma$ist invertierbar genau dann wenn$X$eine kontinuierliche Verteilung in$R^n$in dem Sinne, dass es eine Dichte in Bezug auf das Lebesgue-Maß in hat$R^n$.)

Die Verteilung von$(\boldsymbol X | S = s)$ist noch gemeinsam normal, aber degeneriert. Lassen$\boldsymbol T = (1, 1, \dots, 1)^t$und lass$\boldsymbol X$Und$\boldsymbol \mu$auch Spaltenvektoren sein. Dann$(X_1, \dots, X_n, \boldsymbol T^t \boldsymbol X)$ist als affine Transformation einer gemeinsamen Normalverteilung gemeinsam normal, und wir können die allgemeine Formel für eine bedingte Verteilung von Komponenten einer gemeinsamen Normalverteilung verwenden:

$$(\boldsymbol X | \boldsymbol T^t \boldsymbol X = s) \sim \mathcal N \!\left( \boldsymbol \mu + \frac {s - \boldsymbol \mu^t \boldsymbol T} {\boldsymbol T^t \Sigma \boldsymbol T} \Sigma \boldsymbol T, \Sigma - \frac 1 {\boldsymbol T^t \Sigma \boldsymbol T} \Sigma \boldsymbol T (\Sigma \boldsymbol T)^t \right).$$ $\boldsymbol T$ist ein Eigenvektor der Kovarianzmatrix mit dem Eigenwert$0$.