Wielowymiarowy rozkład normalny

Funkcja gęstości dwuwymiarowego rozkładu normalnego

Wielowymiarowy rozkład normalny – rozkład wielowymiarowej zmiennej losowej, będący uogólnieniem rozkładu normalnego na n wymiarów.

Definicja

n-wymiarowa zmienna losowa $X=[x_1,\dots ,x_n{]}^T$ podlega n-wymiarowemu rozkładowi normalnemu jeśli dowolna kombinacja liniowa $Y=a_1{x}_1+\dots +a_n{x}_n$ jej składowych ma rozkład normalny.

Funkcja gęstości n-wymiarowego rozkładu normalnego wektora losowego $X$ o wektorze wartości oczekiwanych $\mathit{\mu }=[{\mu }_1,\dots ,{\mu }_n{]}^T$ i macierzy kowariancji $\mathrm{\Sigma }$ dana jest wzorem:

$f_{\mathit{\mu },\mathrm{\Sigma }}(X)=\frac{1}{(2\pi {)}^{n/2}{\left|\mathrm{\Sigma }\right|}^{1/2}}\exp (-\frac{1}{2}(X-\mathit{\mu }{)}^T{\mathrm{\Sigma }}^{-1}(X-\mathit{\mu })).$

Oznacza się to w skrócie zapisem

$X\sim N(\mathit{\mu },\mathrm{\Sigma }).$

Niezależność zmiennych

Dla wielowymiarowego rozkładu normalnego jeśli składowe wektora losowego $X$ o wielowymiarowym rozkładzie normalnym są niezależne to są nieskorelowane i odwrotnie, jeśli są nieskorelowane to są niezależne. Wówczas funkcja gęstości wektora losowego $X$ jest iloczynem funkcji gęstości każdej ze zmiennych:

$f_{\mathit{\mu },\mathrm{\Sigma }}(X)=\prod _{i=1}^n{f}_{{\mu }_i,{\sigma }_i}(x_i).$

Zmienne losowe (nawet nieskorelowane) o rozkładzie normalnym nie muszą razem tworzyć wektora o wielowymiarowym rozkładzie normalnym. Wówczas powyższa zależność nie musi być prawdziwa.

Na przykład niech $x\sim N(0,1),$ niech $w$ będzie zmienną losową przyjmującą wartości 1 i –1 z równym prawdopodobieństwem 0,5, niezależną od $x,$ oraz niech $y=wx.$ Wówczas $x$ i $y$ są nieskorelowane, normalne, ale są zależne. Nie tworzą one jednak wielowymiarowego rozkładu normalnego. Cała masa prawdopodobieństwa ich wspólnego rozkładu znajduje się na prostych $y=x,$ $y=-x,$ podczas gdy nośnikiem wielowymiarowego rozkładu normalnego jest cała płaszczyzna ${ℝ}^2.$ W szczególności zmienna $x+y$ ma rozkład mieszany (dyskretno-ciągły), i z prawdopodobieństwem 0,5 przyjmuje wartość 0, a więc nie jest spełniona definicja wielowymiarowego rozkładu normalnego: pewna kombinacja liniowa składowych wektora losowego nie ma rozkładu normalnego.

Estymacja parametrów

Mając dane $N$ wektorów pobranych z pewnego wielowymiarowego rozkładu normalnego o wektorze wartości oczekiwanych $\mathit{\mu }$ i macierzy kowariancji $\mathrm{\Sigma }$ możemy oszacować jego parametry w następujący sposób:

Estymator wartości oczekiwanej:

$\hat{\mathit{\mu }}=\frac{1}{N}\sum _{i=1}^N{X}_i.$

Estymator macierzy kowariancji o największej wiarygodności:

$\hat{\mathrm{\Sigma }}=\frac{1}{N}\sum _{i=1}^N(X_i-\hat{\mathit{\mu }})(X_i-\hat{\mathit{\mu }}{)}^T.$

Estymator nieobciążony macierzy kowariancji:

$\hat{\mathrm{\Sigma }}=\frac{1}{N-1}\sum _{i=1}^N(X_i-\hat{\mathit{\mu }})(X_i-\hat{\mathit{\mu }}{)}^T.$

Symulacja

W celu uzyskania wektora losowego o rozkładzie danym przez wektor średnich $\mathit{\mu }$ i macierz kowariancji $\mathrm{\Sigma },$ postępujemy według następującego algorytmu:

1. Stosujemy rozkład Choleskiego względem macierzy $\mathrm{\Sigma },$ tak by otrzymać macierz $A,$ dla której zachodzi: $A{A}^T=\mathrm{\Sigma }.$
2. Tworzymy wektor $Z$ n niezależnych zmiennych losowych o standardowym rozkładzie normalnym, stosując np. metodę Boxa-Mullera.
3. Szukany wektor to $X=\mathit{\mu }+AZ.$

Zobacz też

• odległość Mahalanobisa