Matematické Fórum

Matthew19 · 17. 03. 2019 21:32

Zdravím,
potřeboval bych poradit s úlohou. Úkolem je odvodit postup, jak nalézt aproximaci řešení soustavy lineárních rovnic $A\overrightarrow{x}=\overrightarrow{b}$ (A je komplexní matice typu m*n) pomocí metody nejmenších čtverců, která má mezi všemi takovými aproximacemi nejmenší normu.

Vím, že množina aproximací se dá nalézt vyřešením příslušné "normální" soustavy rovnic tvaru $A^{*}A\overrightarrow{x}= A^{*}\overrightarrow{b}$ ,
ale nedochází mi, jak pro obecnou soustavu vybrat to řešení s nejmenší normou.

Matthew19 · 17. 03. 2019 22:52

↑ laszky: Ahoj, moc díky za rady, ale my ještě nemáme vlastní čísla a vektory probrané. Nešlo by to nějak vyřešit bez nich? :)

laszky · 17. 03. 2019 22:58 — Editoval laszky (18. 03. 2019 02:52)

↑ Matthew19:

Ahoj, tak to nevadi. ker = jadro matice (nulovy prostor) jste snad uz brali. Potom uvazuj $\vec{v}_1, \vec{v}_2, \dots, \vec{v}_{k}$ libovolnou k-prvkovou bazi $\ker(A^{*}A)$ a reseni soustavy pujde zapsat jako

$\vec{u} = \vec{v}_{\mathrm{p}} + \sum_{i=1}^k\alpha_i \vec{v}_i$ ,

kde $\vec{v}_{\mathrm{p}}$ je libovolny vektor splnujici $A^{*}A \vec{v}_{\mathrm{p}}=A^{*}b$
a $A^{*}A \vec{v}_i=0$ pro vsechna i.

Spocitej $|\vec{u}|^2$ a minimalizuj pres vsechna $\alpha_i$ (parcialni derivace podle $\alpha_i$ musi byt nulove).

Matthew19 · 18. 03. 2019 19:02

↑ laszky:
Díky! Ještě mi úplně nedochází ta část s tou derivací. Snažím se postup aplikovat na tuhle soustavu:
//forum.matweb.cz/upload3/img/2019-03/26972_P0001.jpg

Vyšlo mi, že $Ker(A^{*}A)= LO\{(-1, 1, 1)^{T}\}$ , takže báze Ker(A*A) je například $\{(-1, 1, 1)^{T}\}$ .
Pak jsem spočítal, že $A^{*}\overrightarrow{b} = (2, 4, -2)^{T}$ a vektor, pro který platí $A^{*}A\overrightarrow{x}=A^{*}\overrightarrow{b}$ je například $\overrightarrow{x}=(-1, \frac{5}{3}, 1)^{T}$ .

A teď nevím jak dál.

laszky · 18. 03. 2019 19:50

↑ Matthew19:

Ahoj, mnozina vsech vektoru, ktere resi soustavu $A^{*}A\overrightarrow{x}=A^{*}\overrightarrow{b}$ je tedy

$u=\begin{pmatrix}-1\\5/3\\1\end{pmatrix} + \alpha\begin{pmatrix}-1\\1\\1\end{pmatrix}$ , $\alpha\in\mathbb{R}$

Potom $|u|^2=\left(1+\frac{25}{9}+1\right) + 2\alpha \left(1+\frac{5}{3}+1\right) + (1+1+1)\alpha^2 = \frac{43}{9} + \frac{22}{3}\alpha + 3\alpha^2 =: f(\alpha)$

Protoze $f'(\alpha)=6\alpha+\frac{22}{3}$ , je $f'(\alpha)=0$ prave tehdy, kdyz $\alpha=-\frac{11}{9}$ .

Nejmensi normu ma proto $u=\begin{pmatrix}-1\\5/3\\1\end{pmatrix} - \frac{11}{9}\begin{pmatrix}-1\\1\\1\end{pmatrix}$