Błąd średniokwadratowy

Błąd średniokwadratowy, średni błąd kwadratowy, MSE (od Szablon:Ang.) estymatora $\hat{\theta }$ nieobserwowanego parametru $\theta$ definiowany jest jako:

$\mathrm{MSE}(\hat{\theta })=\mathrm{E}((\hat{\theta }-\theta {)}^2)$

MSE jest wartością oczekiwaną kwadratu „błędu”, czyli różnicy między estymatorem a wartością estymowaną. Błąd średniokwadratowy spełnia tożsamość:

$\mathrm{MSE}(\hat{\theta })={\mathrm{D}}^{\mathrm{2}}(\hat{\theta })+(\mathrm{b}(\hat{\theta }){)}^2,$

gdzie:

${\mathrm{D}}^2(\hat{\theta })$ – wariancja estymatora $\hat{\theta },$

$b(\hat{\theta })=E[(\hat{\theta })]-\theta$ – obciążenie estymatora.

Obciążenie estymatora jest różnicą między wartością oczekiwaną estymatora a wartością szacowanego parametru.

Przykładowo można założyć, że:

$X_1,\dots ,X_n\sim \mathrm{N}(\mu ,{\sigma }^2),$

czyli jest to próba losowa o liczności $n$ z populacji o rozkładzie normalnym. Najczęściej używane estymatory ${\sigma }^2$ to:

$\frac{1}{n}\sum _{i=1}^n{(X_i-\bar{X})}^2\text{ oraz }\frac{1}{n-1}\sum _{i=1}^n{(X_i-\bar{X})}^2,$

gdzie:

$\bar{X}=(X_1+\dots +X_n)/n$

jest średnią z próby. Pierwszy z tych estymatorów to estymator największej wiarygodności, który jest obciążony (to znaczy jego obciążenie jest niezerowe), ma jednak mniejszą wariancję od drugiego, który jest nieobciążony. Mniejsza wariancja w pewien sposób kompensuje obciążenie i średni błąd kwadratowy obciążonego estymatora jest nieco mniejszy niż nieobciążonego.

Niekiedy, zamiast błędu średniokwadratowego, korzysta się z RMSE (od ang. root mean square error), czyli średniej kwadratowej błędów, który jest po prostu pierwiastkiem kwadratowym z MSE.

Zobacz też

• odchylenie standardowe

Bibliografia

• Szablon:Cytuj książkę