Funkcja tworząca prawdopodobieństwa

Funkcja tworząca prawdopodobieństwa dyskretnej zmiennej losowej – przedstawienie szeregu potęgowego (funkcji tworzącej) funkcji masy prawdopodobieństwa zmiennej losowej. Funkcje tworzące prawdopodobieństwa są często wykorzystywane ze względu na ich zwięzły opis ciągu prawdopodobieństw $\mathbb{P}(X=k)$ w funkcji rozkładu prawdopodobieństwa zmiennej losowej $X$ oraz do połączenia z dobrze rozwiniętą teorią szeregów potęgowych z nieujemnymi współczynnikami.

Definicja formalna

Przypadek jednowymiarowy

Jeżeli $X$ jest dyskretną zmienną losową o wartościach ze zbioru nieujemnych liczb całkowitych $\{0,1,\dots \},$ to funkcja tworząca prawdopodobieństwo X jest definiowana jako

$G_X(z)=𝔼(z^X)=\sum _{k=0}^{\mathrm{\infty }}\mathbb{P}(X=k)z^k.$

Indeksy w oznaczeniach $G_X$ i $P_X$ są często używane do podkreślenia, że te oznaczenia odnoszą się do konkretnej zmiennej losowej $X$ i do jej rozkładu. Szereg potęgowy jest zbieżny bezwzględnie co najmniej dla wszystkich liczb zespolonych $z,$ takich że $|z|⩽1.$ W wielu przykładach promień zbieżności jest większy.

Przypadek wielowymiarowy

Jeśli $X=(X_1,\dots ,X_d)$ jest dyskretną zmienną losową o wartościach w $d$-wymiarowej kracie nieujemnych liczb całkowitych $\{0,1,\dots {\}}^d,$ wtedy funkcję tworząca prawdopodobieństwa X jest zdefiniowana jako

$G(z)=G(z_1,\dots ,z_d)=𝔼(z_1^{X_1}\dots z_d^{X_d})=\sum _{x_1,\dots ,x_d=0}^{\mathrm{\infty }}p(x_1,\dots ,x_d)z_1^{x_1}\dots z_d^{x_d},$

gdzie $p$ jest funkcją masy prawdopodobieństwa $X.$ Szereg potęgowy jest zbieżny bezwzględnie co najmniej na wszystkich złożonych wektorach $z=(z_1,\dots ,z_d)\in C_d$ z $\max \{|z_1|,\dots ,|z_d|\}⩽1.$

Właściwości

Szeregi potęgowe

Funkcje tworzące prawdopodobieństwo spełniają wszystkie warunki szeregów potęgowych o współczynnikach nieujemnych. W szczególności, $G(1^{-})=1,$ gdzie $G(1^{-})=\underset{z\to 1^{-}}{\lim }G(z)$ od dołu, ponieważ prawdopodobieństwa muszą sumować się do jedynki. Wynika z tego, że promień zbieżności każdej funkcji tworzącej prawdopodobieństwa musi być równy co najmniej 1 na mocy twierdzenia Abela dla szeregów potęgowych o nieujemnych współczynnikach.

Prawdopodobieństwa i wartości oczekiwane

Następujące własności pozwalają na wyprowadzenie różnych podstawowych wielkości związanych z $X:$

1. Funkcja gęstości prawdopodobieństwa $X$ można wyznaczyć za pomocą pochodnej $G$

$p(k)=\mathbb{P}(X=k)=\frac{G^{(k)}(0)}{k!}.$

2. Z Własności 1 wynika, że jeśli zmienne losowe $X$ i $Y$ mają równe funkcje tworzące prawdopodobieństwa, $G_X=G_Y,$ to $P_X=P_Y.$ To znaczy, że jeśli $X$ i $Y$ mają funkcje tworzące prawdopodobieństwa, to mają identyczne rozkłady.

3. Normalizacja funkcji gęstości prawdopodobieństwa może być wyrażona poprzez funkcje tworzące wzorem:

$𝔼(1)=G(1^{-})=\sum _{i=0}^{\mathrm{\infty }}f(i)=1.$

Wartość oczekiwana $X$ jest wyrażona jako

$𝔼(X)=G^{\prime }(1^{-}).$

Bardziej ogólnie, $k$-ty moment silni $𝔼(X{)}_n=𝔼(X(X-1)\dots (X-k+1)),$ $X$ jest dany przez

$\text{E}\left(\frac{X!}{(X-k)!}\right)=G^{(k)}(1^{-}),k⩾0.$

Więc wariancja $X$ jest wyrażona przez

$\mathrm{Var}(X)=G^{″}(1^{-})+G^{\prime }(1^{-})-[G^{\prime }(1^{-}){]}^2.$

4. $G_x(e^t)=M_X(t),$ gdzie $X$ jest zmienną losową, $G(t)$ funkcją tworzącą prawdopodobieństwa, a $M(t)$ jest funkcją tworzącą momenty.

Funkcje niezależnych zmiennych losowych

Funkcje tworzące prawdopodobieństwo są szczególnie przydatne przy zajmowaniu się funkcjami niezależnych zmiennych losowych. Na przykład:

• Jeśli $X_1,X_2,\dots ,X_n$ jest ciągiem niezależnych (i niekoniecznie o identycznym rozkładzie) zmiennych losowych i

$S_n=\sum _{i=1}^n{a}_i{X}_i,$

gdzie a_i są stałymi, wtedy funkcja tworząca prawdopodobieństwa jest dana przez

$G_{S_n}(z)=𝔼(z^{S_n})=𝔼(z^{\sum _{i=1}^n{a}_i{X}_i})=G_{X_1}(z^{a_1})G_{X_2}(z^{a_2})\dots G_{X_n}(z^{a_n}).$

Na przykład jeśli

$S_n=\sum _{i=1}^n{X}_i,$

to funkcja tworząca prawdopodobieństwa $GSn(z),$ jest dana przez

$G_{S_n}(z)=G_{X_1}(z)G_{X_2}(z)\dots G_{X_n}(z).$

Z powyższego wynika również, że funkcja tworząca prawdopodobieństwa różnicy dwóch niezależnych zmiennych losowych $S=X_1-X_2$ jest

$G_S(z)=G_{X_1}(z)G_{X_2}(1/z).$

• Przypuśćmy, że $N$ jest także niezależną dyskretną zmienną losową przyjmującą wartości nieujemnych liczb całkowitych, z funkcją tworzącą prawdopodobieństwa $G_N.$ Jeśli $x_1,x_2,\dots ,X_n$ są niezależnymi $i$ i o identycznych rozkładach ze wspólną funkcją tworzącą prawdopodobieństwa $G_X,$ wtedy

$G_{S_N}(z)=G_N(G_X(z)).$

Można to zobaczyć, stosując twierdzenie o całkowitej wartości oczekiwanej, jak następuje:

$G_{S_N}(z)=𝔼(z^{S_N})=𝔼(z^{\sum _{i=1}^N{X}_i})=𝔼(𝔼(z^{\sum _{i=1}^N{X}_i}|N))=𝔼((G_X(z){)}^N)=G_N(G_X(z)).$

Ten ostatni fakt jest przydatny w badaniach procesu Galtona-Watsona.

• Przypuśćmy znowu że $N$ jest także niezależną, dyskretna zmienną losową o wartości ze zbioru nieujemnych liczb całkowitych, z funkcją tworzącą prawdopodobieństwa $G_N.$ Jeżeli $x_1,x_2,\dots ,X_n$ są niezależnymi zmiennymi losowymi, ale nie o identycznych rozkładach, gdzie $G_{X_i}$ oznacza funkcję tworzącą prawdopodobieństwa $X_i,$ wtedy

$G_{S_N}(z)=\sum _{i⩾1}{f}_i\prod _{k=1}^i{G}_{X_i}(z).$

Dla $X_i$ o identycznych rozkładach $X_i,$ to upraszcza się do tożsamości powyżej. Ogólny przypadek jest czasami przydatny do uzyskania dekompozycji $S_N$ poprzez funkcje tworzące.

Przykłady

• Funkcja tworząca prawdopodobieństwa zmiennej losowej stałej równej $c,$ to znaczy $\mathbb{P}(X=c)=1,$ jest

$G(z)=z^c.$

• Funkcja tworząca prawdopodobieństwa dwumianowej zmiennej losowej, liczba sukcesów w $n,$ próbach z prawdopodobieństwem $p$ sukcesu w każdej próbie, jest

$G(z)={((1-p)+pz)}^n.$

Należy pamiętać, że jest to $n$-krotny funkcji tworzącej prawdopodobieństwa losowej zmiennej Bernoulliego z parametrem $p.$

• Funkcja tworząca prawdopodobieństwa zmiennej losowej dwumianowej ujemnej, liczba niepowodzeń które nastąpiły przed $r$-tym sukcesem z prawdopodobieństwem sukcesu $p$ w każdej próbie, jest

$G(z)={\left(\frac{p}{1-(1-p)z}\right)}^r.$

Pamiętajmy że jest to $r$-krotny produkt funkcji tworzącej prawdopodobieństwa geometrycznej zmiennej losowej.

• Funkcja tworząca prawdopodobieństwa zmiennej losowej Poissona z parametrem skali $\lambda$ jest

$G(z)={\text{e}}^{\lambda (z-1)}.$

Pojęcia pokrewne

Funkcja tworząca prawdopodobieństwa jest przykładem funkcji tworzącej ciąg: zobacz także formalne szeregi potęgowe. Jest to czasem nazywane transformatą Z funkcji masy prawdopodobieństwa.

Inne funkcje tworzące zmiennych losowych obejmują funkcję generowania momentów, funkcję charakterystyczną i funkcję tworzącą kumulanty.