Macierz układu

Macierz układu (także macierz modelu, macierz regresorów, macierz planu eksperymentu, macierz zmiennych objaśniających, macierz obserwacji, macierz projektowa, ang. design matrix) – wykorzystywana w modelowaniu statystycznym macierz zawierająca wartości zmiennych objaśniających dla zebranych obserwacji, najczęściej oznaczana przez X. Macierz układu stosowana jest np. w analizie regresji lub w analizie wariancji. Każdy wiersz reprezentuje pojedynczy obiekt, a kolejne kolumny odpowiadają zmiennym. Macierz może zawierać zmienne ilościowe, a także zero-jedynkowe zmienne sztuczne wskazujące na przynależność obiektu do danej grupy; może również zawierać kolumnę z samymi jedynkami.

Zaletą koncepcji macierzy układu jest to, że może ona znaleźć zastosowanie dla wielu różnych planów eksperymentalnych i modeli statystycznych, w tym dla analizy wariancji, analizy kowariancji i regresji liniowej.

Definicja

Macierz układu to macierz $X$, w której $x_{ij}$ (element w j-tej kolumnie i-tego rzędu macierzy $X$) zawiera wartość j-tej zmiennej powiązanej z i-tym obiektem.

Model regresji liniowej można przedstawić w formie macierzowej:

$y=X\beta +e,$

gdzie X jest macierzą układu, $\beta$ jest wektorem współczynników modelu (po jednym dla każdej zmiennej), $e$ jest wektorem błędów losowych ze średnią zerową, a y jest wektorem zawierającym wartości zmiennej objaśnianej dla każdego obiektu.

Wymiary

Macierz układu ma wymiary n × p, gdzie n jest liczbą zaobserwowanych obiektów, a p jest liczbą zmiennych (cech) zmierzonych dla każdego obiektu.

Różne wiersze mogą na przykład odpowiadać kolejnym powtórzeniom eksperymentu, podczas gdy kolumny odpowiadają poszczególnym zmiennym (na przykład zastosowanym zabiegom). Załóżmy na przykład, że w eksperymecnie dziesięciu osobom zostaną zadane 4 pytania. Macierz danych M byłaby macierzą o wymiarach 10×4 (10 wierszy i 4 kolumny). W wierszu i w kolumnie j znajdzie się odpowiedź i-tej osoby na j-te pytanie.

Przykłady

Średnia arytmetyczna

Macierz układu średniej arytmetycznej jest wektorem kolumnowym jedynek.

Prosta regresja liniowa

Prosta regresja liniowa to regresja z pojedynczą zmienną objaśniającą:

$y_i={\beta }_0+{\beta }_1{x}_i+{\epsilon }_i,$

gdzie ${\beta }_0$ jest wyrazem wolnym (stałą, punktem przecięcia linii regresji z osią y), a ${\beta }_1$ określa nachylenie (jest współczynnikiem kierunkowym) linii regresji. Załóżmy, że mamy 7 obserwacji (i = 1, 2, …, 7). Model taki można przedstawić w postaci macierzowej w następujący sposób:

$\left[\begin{array}{c}{y}_1\\ y_2\\ y_3\\ y_4\\ y_5\\ y_6\\ y_7\end{array}\right]=\left[\begin{array}{cc}1& x_1\\ 1& x_2\\ 1& x_3\\ 1& x_4\\ 1& x_5\\ 1& x_6\\ 1& x_7\end{array}\right]\left[\begin{array}{c}{\beta }_0\\ {\beta }_1\end{array}\right]+\left[\begin{array}{c}{\epsilon }_1\\ {\epsilon }_2\\ {\epsilon }_3\\ {\epsilon }_4\\ {\epsilon }_5\\ {\epsilon }_6\\ {\epsilon }_7\end{array}\right]$

Macierz, której kolumny w tym przykładzie to jedynki i x, jest macierzą układu. Pierwsza kolumna w macierzy układu zawiera same jedynki i umożliwia oszacowanie wyrazu wolnego, podczas gdy druga kolumna zawiera wartości zmiennej objaśniającej x powiązane z odpowiednimi wartościami y.

Regresja wielokrotna

Załóżmy ponownie, że dane składają się z siedmiu obserwacji i dla każdej zaobserwowanej wartości zmiennej objaśnianej ($y_i$), obserwuje się również wartości dwóch zmiennych objaśniających w_i oraz x_i:

$y_i={\beta }_0+{\beta }_1{w}_i+{\beta }_2{x}_i+{\epsilon }_i$

Model ten można zapisać w postaci macierzowej w następujący sposób:

$\left[\begin{array}{c}{y}_1\\ y_2\\ y_3\\ y_4\\ y_5\\ y_6\\ y_7\end{array}\right]=\left[\begin{array}{ccc}1& w_1& x_1\\ 1& w_2& x_2\\ 1& w_3& x_3\\ 1& w_4& x_4\\ 1& w_5& x_5\\ 1& w_6& x_6\\ 1& w_7& x_7\end{array}\right]\left[\begin{array}{c}{\beta }_0\\ {\beta }_1\\ {\beta }_2\end{array}\right]+\left[\begin{array}{c}{\epsilon }_1\\ {\epsilon }_2\\ {\epsilon }_3\\ {\epsilon }_4\\ {\epsilon }_5\\ {\epsilon }_6\\ {\epsilon }_7\end{array}\right]$

Macierz 7×3 zawierająca jedynki, wartości w_i i x_i jest macierzą układu.

Jednoczynnikowa analiza wariancji

Załóżmy, że mamy model analizy wariancji (ANOVA) z trzema grupami i siedmioma obserwacjami. Zbiór danych zawiera trzy pierwsze obserwacje należące do pierwszej grupy, dwie kolejne obserwacje należące do drugiej grupy i dwie ostatnie obserwacje należące do trzeciej grupy. Model, który ma być dopasowany, sprowadza się do estymacji średniej w każdej grupie:

$y_{ij}={\mu }_i+{\epsilon }_{ij}$

W formie macierzowej można go zapisać w następujący sposób:

$\left[\begin{array}{c}{y}_1\\ y_2\\ y_3\\ y_4\\ y_5\\ y_6\\ y_7\end{array}\right]=\left[\begin{array}{ccc}1& 0& 0\\ 1& 0& 0\\ 1& 0& 0\\ 0& 1& 0\\ 0& 1& 0\\ 0& 0& 1\\ 0& 0& 1\end{array}\right]\left[\begin{array}{c}{\mu }_1\\ {\mu }_2\\ {\mu }_3\end{array}\right]+\left[\begin{array}{c}{\epsilon }_1\\ {\epsilon }_2\\ {\epsilon }_3\\ {\epsilon }_4\\ {\epsilon }_5\\ {\epsilon }_6\\ {\epsilon }_7\end{array}\right]$

W tym modelu ${\mu }_i$ reprezentuje średnią w $i$-tej grupie.

Jednoczynnikowa analiza wariancji z grupą odniesienia

Model ANOVA można równoważnie zapisać z wykorzystaniem parametrów grupowych ${\tau }_i$ oznaczających odstępstwo od jakiegoś poziomu odniesienia. Zwykle za odniesienie przyjmuje się jedną z rozważanych grup. Ma to sens na przykład w kontekście porównywania wielu grup poddawanych leczeniu z grupą kontrolną („grupą odniesienia”, „grupą referencyjną”). W tym przykładzie jako grupę odniesienia wskazano grupę 1. Równanie wygląda w następujący sposób:

$y_{ij}=\mu +{\tau }_i+{\epsilon }_{ij}$

przy czym ${\tau }_1$ wynosi zero. W formie macierzowej takie równanie można przedstawić w nastepujący sposób:

$\left[\begin{array}{c}{y}_1\\ y_2\\ y_3\\ y_4\\ y_5\\ y_6\\ y_7\end{array}\right]=\left[\begin{array}{ccc}1& 0& 0\\ 1& 0& 0\\ 1& 0& 0\\ 1& 1& 0\\ 1& 1& 0\\ 1& 0& 1\\ 1& 0& 1\end{array}\right]\left[\begin{array}{c}\mu \\ {\tau }_2\\ {\tau }_3\end{array}\right]+\left[\begin{array}{c}{\epsilon }_1\\ {\epsilon }_2\\ {\epsilon }_3\\ {\epsilon }_4\\ {\epsilon }_5\\ {\epsilon }_6\\ {\epsilon }_7\end{array}\right]$

W tym modelu $\mu$ jest średnią grupy odniesienia, zaś ${\tau }_i$ jest różnicą pomiędzy średnią w grupie $i$ a średnią grupy odniesienia. Parametr ${\tau }_1$ nie jest uwzględniony w macierzy, ponieważ z konieczności wynosi zero.