Funkcja wiarygodności

Wykres funkcji wiarygodności dla parametru k rozkładu Poissona przy zaobserwowanych danych {3, 5}.

Funkcja wiarygodności (wiarygodność) – w statystyce, funkcja parametru modelu i próby losowej, która jest proporcjonalna do prawdopodobieństwa zaobserwowania próby o konkretnej postaci przy różnych parametrach modelu. Wyraża „wiarygodność” wartości parametru w obliczu danych. Odgrywa kluczową rolę we wnioskowaniu statystycznym. Jej nazwę wprowadził Ronald Fisher w 1922.

Definicja

Najbardziej ogólna postać funkcji wiarygodności $L(H_{\theta }),$ zapisywanej także jako $L(H_{\theta }|D)$ lub z użyciem symbolu $ℒ,$ to:

$L(H_{\theta }|D)=K\times P(D|H_{\theta }),$

gdzie $K$ to arbitralna dodatnia stała proporcjonalności wynikająca ze specyficzności przyjętego modelu, $H_{\theta }$ to reprezentujący różne hipotezy wektor zmiennych wartości parametru $\theta ,$ a $D$ to stały, dany wektor obserwacji. $P$ to funkcja gęstości lub masy prawdopodobieństwa, dla przyjętego modelu statystycznego.

Realizacja funkcji wiarygodności dla wektora obserwacji ma z reguły dla danych iid formę typu:

$L(H_{\theta })=\prod _{i=1}^{n}P(x_i|\theta ).$

Wiarygodność to, w uproszczeniu, prawdopodobieństwo parametru w konkretnym kontekście ustalonych obserwacji i modelu. Ma podobną postać do prawdopodobieństwa danych dla parametru (czyli funkcji gęstości lub masy), ale przyjmuje odwrotnie to, który czynnik jest losowy, a który stały.

Interpretacja

Interpretacja wiarygodności ma sens tylko z zachowaniem kontekstu; bardziej przyjaznym wskaźnikiem jest iloraz wiarygodności, który wskutek dzielenia pozbawiony jest stałej $K$ reprezentującej specyfikę modelu.

Oszacowanie wiarygodności nie jest jednak samo w sobie wyczerpującą podstawą do osądzania prawdziwości hipotez. Sam fakt, że jedno wyjaśnienie jest dużo bardziej prawdopodobne od alternatywnego, w oderwaniu od dodatkowych wskaźników i rozumowania, nie jest wyczerpująco diagnostyczny. Ilustruje to problem błędu rozumowania prokuratorskiego, takiego jak sprawa Sally Clark, matki dwójki dzieci, które zmarły z rozpoznaniem nagłej śmierci łóżeczkowej. Po śmierci drugiego dziecka została oskarżona o morderstwo i skazana w 1999, w dużej mierze na podstawie zeznań profesora pediatrii, który oszacował szansę na dwukrotne wystąpienie bardzo rzadkiej w populacji przyczyny śmierci przypadkiem na bardzo małą. Proces ściągnął na Clark dużą antypatię opinii publicznej. Została uniewinniona na podstawie nowo ujawnionych dowodów w 2003, popadła jednak w alkoholizm i zmarła w 2007 w wieku 43 lat, osieracając jedno żyjące dziecko. Sposób argumentacji statystycznej przedstawionej w trakcie procesu był potem głęboko krytykowany jako tragiczne nadużycie.

Prawo wiarygodności

Pojęcie wiarygodności może być pomocne we wnioskowaniu w przypadku porównywania dwóch hipotez. Zgodnie z prawem wiarygodności, jeżeli obie są zgodne z dostępnymi danymi, większe poparcie w danych ma hipoteza o większej wiarygodnościSzablon:R. Porównując wiarygodności można nie tylko wskazać, która z hipotez ma lepsze poparcie, ale możliwe jest również mierzenie tego poparcia dzięki ilorazowi wiarygodnościSzablon:R.

Zastosowania

Wiarygodność jest wykorzystywana we wszystkich głównych podejściach do wnioskowania statystycznego (np. częstościowym czy bayesowskim). Część statystyków preferuje odrębne podejście oparte wręcz wyłącznie na ilorazach wiarygodności.

Ponieważ wiarygodność jest z reguły używana w postaci ilorazów, często wyraża się ją w postaci logarytmu naturalnego. Jest on także łatwiejszy w maksymalizacji, co wykorzystuje metoda największej wiarygodności w estymacji.

Iloraz wiarygodności

Iloraz wiarygodności, zapisywany z reguły przy pomocy symbolu $\mathrm{\Lambda },$ to:

$\mathrm{\Lambda }({\theta }_1:{\theta }_2\mid x)=\frac{L({\theta }_1\mid x)}{L({\theta }_2\mid x)}.$

Wiele testów statystycznych opiera się o – poprzedzone wyborem odpowiedniego (lub nie) modelu, definiującego $P$ – porównanie wiarygodności dwóch hipotez. Takie porównanie jest częścią lematu Neymana-Pearsona, i było ważnym historycznym źródłem kształtującym testy w podejściu częstościowym. W statystyce bayesowskiej miary tego typu noszą nazwę czynnika Bayesa. Iloraz wiarygodności jest wykorzystywany w teście ilorazu wiarygodności.