Nejbližší řešení soustavy rovnic

Úkol: Označme $ {\mbox{{\Cal S}}}(A)$ podprostor generovaný sloupci matice $ A$. Nechť $ \vec{b}$ je libovolný vektor; potom pro každé řešení $ \vec{x}$ rovnice $ A^{T} A\vec{x}=A^{T}\vec{b}$ platí, že $ A\vec{x}$ je ortogonální projekcí vektoru $ \vec{b}$ do podprostoru $ {\mbox{{\Cal S}}}(A)$.


Poznámka: Mějme soustavu $ A\vec{x}=\vec{b}$$ n$ rovnicemi a $ m<n$ neznámými ($ A$ je tedy matice typu $ n\times m$). Pro libovolné $ \vec{x}$ je vždy $ A\vec{x}\in {\mbox{{\Cal S}}}(A)$. Výšeuvedené tvrzení říká, že pokud tato soustava nemá řešení ($ \vec{b}$ nelze zapsat jako lineární kombinaci sloupců matice $ A$, neboli $ A\vec{x}\not\in{\mbox{{\Cal S}}}(A)$), můžeme zkusit řešit alespoň soustavu $ A^{T} A\vec{x}=A^{T}\vec{b}$. Její řešení $ \vec{x}$ pak má tu vlastnost, že

$\displaystyle \Vert A\vec{x}-\vec{b}\Vert=\min_{\vec{x}'\in\mbox{{\bb R}}^m} \Vert A\vec{x}\,'-\vec{b}\Vert\,,$

tedy chyba, které se dopouštíme, je minimální možná. Ortogonální projekce vektoru $ \vec{v}$ na podprostor $ W$ je totiž ten vektor z $ W$, který je ,,nejblíže'' k $ \vec{v}$ (viz příklad 6.3).


Řešení: Vektor $ \vec{y}$ je ortogonální projekcí vektoru $ \vec{b}$ do podprostoru $ {\mbox{{\Cal S}}}(A)$ právě tehdy, když je vektor $ \vec{b}-\vec{y}$ kolmý ke všem vektorům prostoru $ {\mbox{{\Cal S}}}(A)$, tj. platí $ \langle
\vec{y}-\vec{b}\vert A\vec{z}\rangle=0$ pro všechny vektory $ \vec{z}\in${\bb R}$ ^m$. Nechť tedy $ \vec{y}=A\vec{x}$, kde $ \vec{x}$ je vektor ze zadání příkladu. Potom $ \langle A\vec{x}-\vec{b}\vert A\vec{z}\rangle= \langle A^{T}A\vec{x}-A^{T}\vec{b}\vert\vec{z}\rangle=\langle 0\vert\vec{z}\rangle=0$, a tedy $ A\vec{x}$ je vskutku ortogonální projekcí vektoru $ \vec{b}$ do podprostoru $ {\mbox{{\Cal S}}}(A)$.

$ \ast$DK$ \ast$