Metoda LU

Metoda LU (ang. lower – dolny, upper górny) – metoda rozwiązywania układu równań liniowych. Nazwa pochodzi od użytych w tej metodzie macierzy trójkątnych, tj. dolnotrójkątnej (dolnej) i górnotrójkątnej (górnej). Metoda pozwala także na szybkie wyliczenie wyznacznika macierzy układu.

Opis metody LU

Niech dany będzie układ równań liniowych:

$𝐀\cdot 𝐱=𝐲,$

gdzie $𝐀$ – macierz współczynników, $𝐱$ – wektor niewiadomych, $𝐲$ – wektor danych.

W metodzie LU macierz współczynników $𝐀$ zapisywana jest jako iloczyn pewnych macierzy dolnej $𝐋$ i górnej $𝐔:$

$𝐀=𝐋\cdot 𝐔,$

gdzie:

$𝐋=\left[\begin{array}{cccc}{l}_{11}& 0& \cdots & 0\\ l_{21}& l_{22}& \cdots & 0\\ ⋮& ⋮& \ddots & 0\\ l_{n1}& l_{n2}& \cdots & l_{nn}\end{array}\right],𝐔=\left[\begin{array}{cccc}{u}_{11}& u_{12}& \cdots & u_{1n}\\ 0& u_{22}& \cdots & u_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ 0& 0& \cdots & u_{nn}\end{array}\right].$

Układ równań przyjmuje wówczas postać

$𝐋\cdot 𝐔\cdot 𝐱=𝐲,$

a jego rozwiązanie sprowadza się do rozwiązania dwóch układów równań z macierzami trójkątnymi:

$𝐋\cdot 𝐳=𝐲,$

$𝐔\cdot 𝐱=𝐳.$

Ostatecznie liczba mnożeń, potrzebnych do wyznaczenia wektora $𝐱,$ wynosi $n^2,$ dodawań $n^2-n.$

Wyznacznik macierzy $𝐀$ tej postaci można obliczyć korzystając z twierdzenia Cauchy’ego:

$𝐝𝐞𝐭\mathbf{(}𝐀\mathbf{)}=𝐝𝐞𝐭\mathbf{(}𝐋\mathbf{\cdot }𝐔\mathbf{)}=𝐝𝐞𝐭\mathbf{(}𝐋\mathbf{)}\cdot 𝐝𝐞𝐭\mathbf{(}𝐔\mathbf{)},$

oraz z faktu, że wyznacznik macierzy trójkątnej jest iloczynem elementów na przekątnej:

$𝐝𝐞𝐭\mathbf{(}𝐋\mathbf{)}=l_{11}\cdot l_{22}\cdot \dots \cdot l_{nn},$

$𝐝𝐞𝐭\mathbf{(}𝐔\mathbf{)}=u_{11}\cdot u_{22}\cdot \dots \cdot u_{nn}.$

Ponadto przeważnie przy rozkładzie LU na przekątnej jednej z macierzy znajdują się jedynki – wtedy wyznacznik macierzy $𝐀$ jest równy wyznacznikowi albo macierzy $𝐋,$ albo $𝐔,$ którego obliczenie wymaga wykonania $n-1$ mnożeń (zamiast $2n-1$).

Zalety metody:

• bardzo oszczędna gospodarka pamięcią,
• wymaga najmniejszej liczby operacji w porównaniu z innymi metodami dokładnymi (nie biorąc pod uwagę procedur specjalnych).

Rozkład LU

Podstawowym problemem numerycznym w tej metodzie jest dokonanie rozkładu LU macierzy współczynników. Żeby ten rozkład macierzy był jednoznaczny, zakłada się, że elementy na głównej przekątnej jednej z macierzy, $𝐋$ albo $𝐔,$ są równe 1.

Rozkład LU jest wyznaczany za pomocą metody Doolittle’a (opisana niżej).

Ta metoda nie jest niezawodnaSzablon:Odn, tzn. podczas obliczeń może wystąpić dzielenie przez zero. Istnieje jej modyfikacja pozbawiona tej wady, nazywana metodą Doolittle-Crouta, w której wykorzystuje się częściowy wybór elementu podstawowegoSzablon:Odn.

Element podstawowy to taki element w macierzy $A,$ który jest używany do rugowania zmiennych (czyli zerowania odpowiadających im współczynników) z kolejnych równań. Przy stosowaniu metody Doolittle’a wybiera się element podstawowy zawsze z przekątnej głównej, i jeśli $a_{kk}$ jest równe zero, metoda zawodzi.

W metodach zmodyfikowanych wybierany jest ten element z danej $k$-tej kolumny, który ma największy modułSzablon:Odn. Następnie wiersz, w którym znajduje się wybrany element, zamieniany jest z $k$-tym wierszem, co powoduje, że element podstawowy pojawia się na przekątnej głównej. To gwarantuje, że podczas obliczeń nie wystąpi dzielenie przez zero.

Jednocześnie te zmodyfikowane metody nie zawsze dają rozkład LU macierzy $𝐀$Szablon:Odn. Może się zdarzyć, że otrzymany rozkład LU dotyczy macierzy $𝐀,$ w której dokonano takich samych przestawień wierszy, jak podczas eliminacji zmiennychSzablon:Odn. Jednak ma to znaczenie (i komplikuje obliczenia) tylko wtedy, gdy rozkład LU służy do wyznaczenia macierzy odwrotnej; w innych zadaniach nie odgrywa roli.

Metoda Doolittle’a

W metodzie tej równość $𝐀=𝐋𝐔$ traktuje się jako układ $n$ równań z $n^2$ niewiadomymiSzablon:Odn. Te niewiadome to elementy $l_{ij}$ dla $i>j$ (elementy poniżej przekątnej), oraz $u_{ij}$ dla $j⩾i$ (elementy na i powyżej przekątnej), przy założeniu, że na diagonali macierzy $𝐋$ znajdują się 1:

$\left[\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1n}\\ a_{21}& a_{22}& \cdots & a_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ a_{n1}& a_{n2}& \cdots & a_{nn}\end{array}\right]=\left[\begin{array}{cccc}1& 0& \cdots & 0\\ l_{21}& 1& \cdots & 0\\ ⋮& ⋮& \ddots & 0\\ l_{n1}& l_{n2}& \cdots & 1\end{array}\right]\cdot \left[\begin{array}{cccc}{u}_{11}& u_{12}& \cdots & u_{1n}\\ 0& u_{22}& \cdots & u_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ 0& 0& \cdots & u_{nn}\end{array}\right].$

Wyznaczanie kolejnych elementów macierzy $𝐋$ i $𝐔$ robi się naprzemiennie, tj. raz wyznacza wiersz macierzy $𝐔,$ raz kolumnę macierzy $𝐋.$

Wzory ogólne na poszczególne elementy macierzy rozkładu przedstawiają się następująco:

dla wszystkich $i\in \{1,2,\dots ,n\}:$

$u_{ij}=a_{ij}-\sum _{k=1}^{i-1}{l}_{ik}{u}_{kj}$ dla $j\in \{i,i+1,\dots ,n\},$

$l_{ji}=\frac{1}{u_{ii}}(a_{ji}-\sum _{k=1}^{i-1}{l}_{jk}{u}_{ki})$ dla $j\in \{i+1,i+2,\dots ,n\}.$

Z ostatniego równania wynika, że metoda nie zadziała, gdy $u_{ii}=0.$

Liczba działań potrzebna do rozkładuSzablon:Odn:

• mnożenia: $\frac{1}{3}{n}^3-\frac{1}{3}n,$
• dodawania: $\frac{1}{3}{n}^3-\frac{1}{2}{n}^2+\frac{1}{6}n.$

Przykład (macierz 3x3)

$\left[\begin{array}{ccc}5& 3& 2\\ 1& 2& 0\\ 3& 0& 4\end{array}\right]=\left[\begin{array}{ccc}1& 0& 0\\ l_{21}& 1& 0\\ l_{31}& l_{32}& 1\end{array}\right]\left[\begin{array}{ccc}{u}_{11}& u_{12}& u_{13}\\ 0& u_{22}& u_{23}\\ 0& 0& u_{33}\end{array}\right]$

Pierwszy wiersz macierzy U:

$5=1\cdot u_{11}+0\cdot 0+0\cdot 0\to u_{11}=5$

$3=1\cdot u_{12}+0\cdot u_{22}+0\cdot 0\to u_{12}=3$

$2=1\cdot u_{13}+0\cdot u_{23}+0\cdot u_{33}\to u_{13}=2$

$\left[\begin{array}{ccc}5& 3& 2\\ 1& 2& 0\\ 3& 0& 4\end{array}\right]=\left[\begin{array}{ccc}1& 0& 0\\ l_{21}& 1& 0\\ l_{31}& l_{32}& 1\end{array}\right]\left[\begin{array}{ccc}5& 3& 2\\ 0& u_{22}& u_{23}\\ 0& 0& u_{33}\end{array}\right]$

Pierwsza kolumna macierzy L:

$1=l_{21}\cdot 5+1\cdot 0+0\cdot 0\to l_{21}=\frac{1}{5}$

$3=l_{31}\cdot 5+l_{32}\cdot 0+1\cdot 0\to l_{31}=\frac{3}{5}$

$\left[\begin{array}{ccc}5& 3& 2\\ 1& 2& 0\\ 3& 0& 4\end{array}\right]=\left[\begin{array}{ccc}1& 0& 0\\ \frac{1}{5}& 1& 0\\ \frac{3}{5}& l_{32}& 1\end{array}\right]\left[\begin{array}{ccc}5& 3& 2\\ 0& u_{22}& u_{23}\\ 0& 0& u_{33}\end{array}\right]$

Drugi wiersz macierzy U:

$2=\frac{1}{5}\cdot 3+1\cdot u_{22}+0\cdot 0\to u_{22}=\frac{7}{5}$

$0=\frac{1}{5}\cdot 2+1\cdot u_{23}+0\cdot u_{33}\to u_{23}=-\frac{2}{5}$

$\left[\begin{array}{ccc}5& 3& 2\\ 1& 2& 0\\ 3& 0& 4\end{array}\right]=\left[\begin{array}{ccc}1& 0& 0\\ \frac{1}{5}& 1& 0\\ \frac{3}{5}& l_{32}& 1\end{array}\right]\left[\begin{array}{ccc}5& 3& 2\\ 0& \frac{7}{5}& -\frac{2}{5}\\ 0& 0& u_{33}\end{array}\right]$

Druga kolumna macierzy L:

$0=\frac{3}{5}\cdot 3+l_{32}\cdot \frac{7}{5}+1\cdot 0\to l_{32}=-\frac{9}{7}$

$\left[\begin{array}{ccc}5& 3& 2\\ 1& 2& 0\\ 3& 0& 4\end{array}\right]=\left[\begin{array}{ccc}1& 0& 0\\ \frac{1}{5}& 1& 0\\ \frac{3}{5}& -\frac{9}{7}& 1\end{array}\right]\left[\begin{array}{ccc}5& 3& 2\\ 0& \frac{7}{5}& -\frac{2}{5}\\ 0& 0& u_{33}\end{array}\right]$

Trzeci wiersz macierzy U:

$4=\frac{3}{5}\cdot 2+\frac{9}{7}\cdot \frac{2}{5}+1\cdot u_{33}\to u_{33}=\frac{16}{7}$

$\left[\begin{array}{ccc}5& 3& 2\\ 1& 2& 0\\ 3& 0& 4\end{array}\right]=\left[\begin{array}{ccc}1& 0& 0\\ \frac{1}{5}& 1& 0\\ \frac{3}{5}& -\frac{9}{7}& 1\end{array}\right]\left[\begin{array}{ccc}5& 3& 2\\ 0& \frac{7}{5}& -\frac{2}{5}\\ 0& 0& \frac{16}{7}\end{array}\right]$

Metoda Gaussa

Wersja pamięciożerna

Do macierzy, której rozkładu dokonujemy dopisujemy lewostronnie macierz jednostkową. Na prawym bloku macierzy wykonujemy operacje elementarne takie jak w metodzie Gaussa (odejmowanie i mnożenie). W lewym bloku macierzy zapisujemy współczynniki użyte do eliminacji.

$\left[\begin{array}{ccc}5& 3& 2\\ 1& 2& 0\\ 3& 0& 4\end{array}\right]\left[\begin{array}{cccccc}1& 0& 0& 5& 3& 2\\ 0& 1& 0& 1& 2& 0\\ 0& 0& 1& 3& 0& 4\end{array}\right]\left[\begin{array}{cccccc}1& 0& 0& 5& 3& 2\\ \frac{1}{5}& 1& 0& 0& \frac{7}{5}& -\frac{2}{5}\\ \frac{3}{5}& 0& 1& 0& -\frac{9}{5}& \frac{14}{5}\end{array}\right]\left[\begin{array}{cccccc}1& 0& 0& 5& 3& 2\\ \frac{1}{5}& 1& 0& 0& \frac{7}{5}& -\frac{2}{5}\\ \frac{3}{5}& -\frac{9}{7}& 1& 0& 0& \frac{16}{7}\end{array}\right]$

Wersja wymagająca mniej pamięci

Przepisujemy wiersz bez zmian, a elementy w kolumnie poniżej głównej przekątnej dzielimy przez element znajdujący się na głównej przekątnej.

Dla pozostałej części macierzy obliczamy uzupełnienie Schura:

$a_{ij}=a_{ij}-a_{ik}{a}_{kj}$

Powyższe kroki wykonujemy dla $k=1,\dots ,n-1$

Gdy któryś z elementów na głównej przekątnej wynosi zero, to rozkład $LU=A$ nie istnieje, ale można spróbować dokonać rozkładu LU dla pewnej permutacji wierszy macierzy $A.$

Dla każdej nieosobliwej macierzy kwadratowej $A$ można dokonać rozkładu $LU$ macierzy powstałej z pewnej permutacji wierszy macierzy $A.$

Metoda Crouta

Metoda ta jest analogiczną do metody Doolittle’a, różnica polega na tym, że diagonala macierzy U jest wypełniona liczbami 1.

$\left[\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1n}\\ a_{21}& a_{22}& \cdots & a_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ a_{n1}& a_{n2}& \cdots & a_{nn}\end{array}\right]=\left[\begin{array}{cccc}{l}_{11}& 0& \cdots & 0\\ l_{21}& l_{22}& \cdots & 0\\ ⋮& ⋮& \ddots & 0\\ l_{n1}& l_{n2}& \cdots & l_{nn}\end{array}\right]\cdot \left[\begin{array}{cccc}1& u_{12}& \cdots & u_{1n}\\ 0& 1& \cdots & u_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ 0& 0& \cdots & 1\end{array}\right]$

Przykład rozwiązania układu równań

Zostanie użyta ta sama macierz współczynników, jak w przykładzie dla metody Doolittle’a:

$\left[\begin{array}{ccc}5& 3& 2\\ 1& 2& 0\\ 3& 0& 4\end{array}\right]\cdot \left[\begin{array}{c}{x}_1\\ x_2\\ x_3\end{array}\right]=\left[\begin{array}{c}10\\ 5\\ -2\end{array}\right]$

Teraz zostaną zapisane dwa układy równań z macierzami trójkątnymi $𝐋$ i $𝐔:$

$\left[\begin{array}{ccc}1& 0& 0\\ \frac{1}{5}& 1& 0\\ \frac{3}{5}& -\frac{9}{7}& 1\end{array}\right]\cdot \left[\begin{array}{c}{z}_1\\ z_2\\ z_3\end{array}\right]=\left[\begin{array}{c}10\\ 5\\ -2\end{array}\right]$

$\left[\begin{array}{ccc}5& 3& 2\\ 0& \frac{7}{5}& -\frac{2}{5}\\ 0& 0& \frac{16}{7}\end{array}\right]\cdot \left[\begin{array}{c}{x}_1\\ x_2\\ x_3\end{array}\right]=\left[\begin{array}{c}{z}_1\\ z_2\\ z_3\end{array}\right]$

Najpierw zostanie wyznaczony wektor $𝐳$ z pierwszego układu równań $𝐋𝐳=𝐲.$ Rozwiązanie układu równań z macierzą trójkątną jest bardzo proste: wyznaczane są kolejno elementy wektora niewiadomych $z_1,$ następnie, gdy znane jest $z_1,$ można wyznaczyć $z_2,$ a na końcu $z_3,$ ponieważ znane są $z_1$ i $z_2:$

1. $1\cdot z_1=10\to z_1=10$
2. $\frac{1}{5}\cdot z_1+1\cdot z_2=\frac{1}{5}\cdot 10+z_2=5\to z_2=5-2=3$
3. $\frac{3}{5}\cdot z_1-\frac{9}{7}\cdot z_2+z_3=\frac{3}{5}\cdot 10-\frac{9}{7}\cdot 3+z_3=-2\to z_3=-2-6+\frac{27}{7}=-\frac{29}{7}$

Teraz drugi układ równań przyjmuje postać:

$\left[\begin{array}{ccc}5& 3& 2\\ 0& \frac{7}{5}& -\frac{2}{5}\\ 0& 0& \frac{16}{7}\end{array}\right]\left[\begin{array}{c}{x}_1\\ x_2\\ x_3\end{array}\right]=\left[\begin{array}{c}10\\ 3\\ -\frac{29}{7}\end{array}\right]$

Sposób rozwiązywania jest analogiczny jak dla pierwszego układu, z tym że elementy wektora $𝐱$ są wyznaczane „od końca”:

1. $\frac{16}{7}\cdot x_3=-\frac{29}{7}\to x_3=-\frac{29}{16}$
2. $\frac{7}{5}\cdot x_2-\frac{2}{5}\cdot x_3=\frac{7}{5}\cdot x_2+\frac{29}{40}=3\to x_2=\frac{3-\frac{29}{40}}{\frac{7}{5}}=\frac{13}{8}$
3. $5\cdot x_1+3\cdot x_2+2\cdot x_3=5\cdot x_1+3\cdot \frac{13}{8}-2\cdot \frac{29}{16}=10\to x_1=\frac{10-\frac{39}{8}+\frac{29}{8}}{5}=\frac{7}{4}$

Ostatecznie wynikiem jest wektor $𝐱=[\frac{7}{4},\frac{13}{8},-\frac{29}{16}].$

Przykład obliczania wyznacznika

Ponownie wykorzystane zostaną wyniki z przykładu dla metody Doolittle’a:

$\det \left(\left[\begin{array}{ccc}5& 3& 2\\ 1& 2& 0\\ 3& 0& 4\end{array}\right]\right)=\det \left(\left[\begin{array}{ccc}1& 0& 0\\ \frac{1}{5}& 1& 0\\ \frac{3}{5}& -\frac{9}{7}& 1\end{array}\right]\right)\cdot \det \left(\left[\begin{array}{ccc}5& 3& 2\\ 0& \frac{7}{5}& -\frac{2}{5}\\ 0& 0& \frac{16}{7}\end{array}\right]\right)$

Ponieważ na przekątnej macierzy $𝐋$ są jedynki, dlatego wyznacznik macierzy $\mathbf{det}\mathbf{(}𝐀\mathbf{)}=\mathbf{det}\mathbf{(}𝐔\mathbf{)}=5\cdot \frac{7}{5}\cdot \frac{16}{7}=16$Szablon:Odn.

Zobacz też

• rozkład Choleskiego
• rozkład macierzy
• rozkład QR

Bibliografia

• Szablon:Cytuj