Metoda Hellwiga

Szablon:Dopracować Metoda Hellwiga, zwana również metodą optymalnego wyboru predyktant, metodą wskaźników pojemności informacji – formalna metoda doboru zmiennych objaśniających do modelu statystycznego (w szczególności modelu ekonometrycznego) stworzona w 1968 roku przez Zdzisława Hellwiga.

Zmienne, które wybieramy do modelu powinny być silnie skorelowane ze zmienną objaśnianą, a słabo skorelowane między sobą. Nie jest to jednak ścisłe kryterium doboru zmiennych, oprócz tego występuje kryterium liczbowe, tzw. pojemność integralna kombinacji nośników informacji. W tym przypadku nośnikami informacji są wszystkie zmienne objaśniające.

Liczba kombinacji

Jeżeli mamy $m$ potencjalnych zmiennych objaśniających, to liczba wszystkich kombinacji jest równa

$L=2^m-1.$

Indywidualna pojemność nośników informacji

Dla wszystkich otrzymanych kombinacji definiujemy tzw. Indywidualną pojemność nośników informacji, która określona jest wzorem:

$h_{kj}=\frac{r_j^2}{1+\sum _{l=1,l\ne j}^{m_k}|r_{lj}|},j=1,2,\dots ,m_k,h_{kj}\in [0,1],$

gdzie:

$k$ – numer kombinacji $(k=1,2,\dots ,2^m-1),$

$m_k$ – liczba zmiennych w $k$-tej kombinacji,

$j$ – numer zmiennej w rozpatrywanej kombinacji,

$r_j$ – współczynnik korelacji potencjalnej zmiennej objaśniającej o numerze j ze zmienną objaśnianą (element wektora $R_0$),

$r_{lj}$ – współczynnik korelacji między $l$-tą i $j$-tą potencjalną zmienną objaśniającą (element macierzy $R$).

Wskaźnik $h_{kj}$ mierzy wielkość informacji jaką wnosi zmienna $X_j$ o zmiennej objaśnianej $Y$ w $k$-tej kombinacji. W związku z tym $h_{kj}$ wzrasta, jeżeli współczynnik korelacji $r_j$ wzrasta, a maleje im bardziej zmienna $X_j$ jest skorelowana z pozostałymi zmiennymi objaśniającymi.

Pojemność integralna kombinacji nośników informacji

Dopiero, gdy policzymy indywidualną pojemność nośników informacji dla wszystkich kombinacji, możemy obliczyć pojemność integralną kombinacji nośników informacji według wzoru:

$H_k=\sum _{j=1}^{m_k}{h}_{kj},k=1,2,\dots ,2^m-1,H_k\in [0,1],$

gdzie:

$k$ – numer kombinacji $(k=1,2,\dots ,2_m-1),$

$m_k$ – liczba zmiennych w $k$-tej kombinacji,

$j$ – numer zmiennej w rozpatrywanej kombinacji.

Pojemność integralna kombinacji nośników informacji dla $k$-tej kombinacji jest sumą indywidualnych pojemności nośników informacji, które wchodzą w skład tej kombinacji. Jest ona kryterium wyboru odpowiedniej kombinacji zmiennych objaśniających, a wybieramy tę kombinację, gdzie $H_k$ jest największa. Ze względu na znacząca liczbę kombinacji zmiennych, które należy porównać skonstruowana została metoda wykorzystująca kryterium Hellwiga w postaci zadania programowania binarnego, w którym licznik z kryterium Hellwiga jest funkcją celu, a mianownik jest podstawą do zbudowania warunków ograniczających.

Przykład

Dane są:

• zmienna endogeniczna $Y,$
• zbiór potencjalnych zmiennych objaśniających

$X=\{x_1,x_2,x_3\},$

• wektor współczynników korelacji liniowej między zmiennymi egzogenicznymi i zmienną endogeniczną

$R_0=\left[\begin{array}{c}0,4\\ -0,9\\ 0,6\end{array}\right],$

• macierz współczynników korelacji między potencjalnymi zmiennymi objaśniającymi,

$R=\left[\begin{array}{ccc}1& 0,2& -0,7\\ 0,2& 1& 0,5\\ -0,7& 0,5& 1\end{array}\right].$

Liczba możliwych kombinacji zmiennych endogenicznych wynosi

$L=2^3-1=7.$

• Kombinacje jednoelementowe:

$K_1=\{x_1\},$

$K_2=\{x_2\},$

$K_3=\{x_3\}.$

• Kombinacje dwuelementowe:

$K_4=\{x_1,x_2\},$

$K_5=\{x_1,x_3\},$

$K_6=\{x_2,x_3\}.$

• Kombinacje trójelementowe:

$K_7=\{x_1,x_2,x_3\}.$

Bibliografia

• A. Barczak, J. Biolik, Podstawy ekonometrii, Wydawnictwo AE Katowice, Katowice 2003, Szablon:ISBN.
• J. Dziechciarz, Ekonometria. Metody, przykłady, zadania, Wydawnictwo AE we Wrocławiu, Wrocław 2002, Szablon:ISBN.
• M. Rocki, Własność koincydencji i zmienne katalityczne w doborze zmiennych objaśniających za pomocą zadania programowania zerojedynkowego, „Przegląd Statystyczny” 1/2, Warszawa 2000, Szablon:ISBN.