Rozkład według wartości osobliwych

Rozkład według wartości osobliwych (rozkład według wartości szczególnych, dekompozycja głównych składowych, dekompozycja na wartości singularne, dekompozycja SVD, rozkład SVD, algorytm SVD (SVD – z ang. Singular Value Decomposition)) – pewien rozkład macierzy (dekompozycja) na iloczyn trzech specyficznych macierzy.

Jest to metoda matematyczna służąca do redukcji wymiaru macierzy. Posiada wiele zastosowań, np. w analizie statystycznej, przy przetwarzaniu obrazów i sygnałów, w robotyce i automatyce.

Teza

Każdą macierz rzeczywistą $A$ można przedstawić w postaci rozkładu SVD:

$A=U\mathrm{\Sigma }{V}^T,$

gdzie:

• $U$ i $V$ – macierze ortogonalne (czyli $U^{-1}=U^T,$ $V^{-1}=V^T$),
• $\mathrm{\Sigma }$ – macierz diagonalna (przekątniowa), taka że $\mathrm{\Sigma }=\mathrm{diag}({\sigma }_i),$ gdzie ${\sigma }_i$ – nieujemne wartości szczególne (osobliwe) macierzy $A,$ zwyczajowo uporządkowane nierosnąco.

Własności

Jeżeli macierz $A$ jest macierzą nieosobliwą, to można tak dobrać macierze $U$ oraz $V,$ żeby jej wszystkie wartości szczególne (osobliwe) były dodatnie. Jeżeli którakolwiek wartość szczególna macierzy jest równa 0, to macierz ta jest macierzą osobliwą.

Wartość bezwzględna wyznacznika kwadratowej macierzy $A$ jest iloczynem jej wszystkich wartości szczególnych (osobliwych):

$|\det (A)|={\sigma }_1{\sigma }_2\dots {\sigma }_n.$

Przykład

Rozważmy macierz: $4\times 5:$

$𝐌=\left[\begin{array}{ccccc}1& 0& 0& 0& 2\\ 0& 0& 3& 0& 0\\ 0& 0& 0& 0& 0\\ 0& 4& 0& 0& 0\end{array}\right]$

Rozkład według wartości osobliwych tej macierzy jest następujący:

$\begin{array}{cc}𝐔& =\left[\begin{array}{cccc}0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& -1\\ 1& 0& 0& 0\end{array}\right]\\ \mathrm{\Sigma }& =\left[\begin{array}{ccccc}4& 0& 0& 0& 0\\ 0& 3& 0& 0& 0\\ 0& 0& \sqrt{5}& 0& 0\\ 0& 0& 0& 0& 0\end{array}\right]\\ {𝐕}^T& =\left[\begin{array}{ccccc}0& 1& 0& 0& 0\\ 0& 0& 1& 0& 0\\ \sqrt{0,2}& 0& 0& 0& \sqrt{0,8}\\ 0& 0& 0& 1& 0\\ -\sqrt{0,8}& 0& 0& 0& \sqrt{0,2}\end{array}\right]\end{array}$

Przy czym wartości na przekątnej macierzy $\mathrm{\Sigma }$ to pierwiastki wartości własnych macierzy: $𝐌{𝐌}^T,$ oraz istotnie:

$\begin{array}{cc}𝐔{𝐔}^T& =\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 1& 0& 0\\ 0& 0& 1& 0\\ 0& 0& 0& 1\end{array}\right]\end{array}$

tudzież:

$\begin{array}{cc}𝐕{𝐕}^T& =\left[\begin{array}{ccccc}1& 0& 0& 0& 0\\ 0& 1& 0& 0& 0\\ 0& 0& 1& 0& 0\\ 0& 0& 0& 1& 0\\ 0& 0& 0& 0& 1\end{array}\right]\end{array}$

Zobacz też

• metody numeryczne
• analiza głównych składowych (PCA)
• rozkład macierzy