Odległość Bhattacharyyi

Odległość Bhattacharyyi – miara stosowana w statystyce do oszacowania różnicy między dwoma rozkładami prawdopodobieństwa. Jest szczególnym przypadkiem bardziej ogólnej odległości Chernoffa.

Definicja

Gdy dane są dwa rozkłady prawdopodobieństwa $p_{1}$ i $p_{2},$ współczynnik Bhattacharyyi definiuje się jako^[1]

ρ = \int \sqrt{p_{1} (x) p_{2} (x)} d x

Odległość Bhatacharyyi definiuje się jako:

d_{b} (p_{1}, p_{2}) = - \ln ρ .

Współczynnik $ρ$ leży w przedziale $[0, 1],$ zatem $0 ⩽ d_{b} ⩽ \infty$

Typ rozkładu	Wzór rozkładu $p_{i} (x)$	Wartość $d_{b} (p_{1}, p_{2})$
Jednowymiarowy rozkład Gaussa: $N (μ_{i}, σ_{i})$	$\frac{1}{σ_{i} \sqrt{2 π}} \exp (\frac{- (x - μ_{i})^{2}}{2 σ_{i}^{2}})$	$\frac{1}{4} \frac{(μ_{1} - μ_{2})^{2}}{σ_{1}^{2} + σ_{2}^{2}} + \frac{1}{2} \ln (\frac{σ_{1}^{2} + σ_{2}^{2}}{2 σ_{1} σ_{2}})$
n-wymiarowy rozkład Gaussa: $N (μ_{i}, C_{i})$	$\frac{1}{(2 π)^{n / 2} \| C_{i} \|^{1 / 2}} \exp (- \frac{1}{2} (x - μ_{i})^{T} C_{i}^{- 1} (x - μ_{i}))$	$\frac{1}{8} (μ_{1} - μ_{2})^{T} C^{- 1} (μ_{1} - μ_{2}) + \frac{1}{2} \ln (\frac{\| C \|}{\sqrt{\| C_{1} \| \| C_{2} \|}}),$ gdzie $C = \frac{C_{1} + C_{2}}{2}$
Rozkład Poissona	$\frac{e^{- λ_{i}} λ_{i}^{k}}{k!} δ (x - λ_{i})$	$\frac{1}{2} (\sqrt{λ_{1}} - \sqrt{λ_{2}})^{2}$

↑ Thomas Kailath, The Divergence and Bhattacharyya Distance Measures in Signal Selection, „IEEE Transactions on Communication Technology”, Vol. 15, No. 1, luty 1967.