Hoppa till huvudinnehållet
5. Baser, ortonormalitet, projektioner och minstakvadratmetoden

Ortogonalitet och minsta kvadrat

ON-baser, , och normalekvationer.

Översikt

Formler och tentametoder

ON-baser, , och normalekvationer. Formlerna nedan är redaktionellt sammanställda från kursens modulunderlag och återkommande tentamensmetoder.

Exempel

Genomräknat exempel

Med en fås genom skalärprodukterna. Resten är mot delrummet.

W=span{(1,0)},projW(1,2)=(1,0)W=\operatorname{span}\{(1,0)\},\quad\operatorname{proj}_W(1,2)=(1,0)

Fördjupning

Fördjupning och vanliga fallgropar

Projektionsformeln med enkla skalärprodukter gäller direkt för en ; för en godtycklig måste du först ortonormalisera eller lösa . kräver startvektorer och varje ny ska normaliseras först efter att alla tidigare projektioner dragits bort. gör residualen r=br = b − Ax mot kolonnrummet, vilket ger AᵀAx = Aᵀb. Om A har full kolonnrang är lösningen entydig. Vid rangbrist används en rangavslöjande QR-faktorisering med kolonnpivotering eller SVD/pseudoinvers; pseudoinversen ger lösningen med minsta norm. Kontrollera slutligen att Aᵀr = 0.

Minsta kvadrat som ortogonal projektion

De lodräta segmenten visar residualernas komponenter yᵢ−ŷᵢ. Ortogonaliteten Aᵀr=0 gäller den samlade residualvektorn r i datarummet Rᵐ, inte varje segment i diagrammet.

Datapunkterna (−1,1), (0,3) och (2,4), minstakvadratlinjen ŷ=33/14+(13/14)t och de tre lodräta residualsegmenten.

Laddar figur…

Formler i området

Gram-Schmidts metod

uj=vji=1j1(vjqi)qi,qj=ujuju_j=v_j-\sum_{i=1}^{j-1}(v_j\cdot q_i)q_i,\qquad q_j=\frac{u_j}{\|u_j\|}
Vad gör formeln?
Bygger en för samma spann.
När får den användas?
Startvektorerna v_1,…,v_k måste vara .

på ett

projWx=i=1k(xqi)qi,P=QQT\operatorname{proj}_W x=\sum_{i=1}^{k}(x\cdot q_i)q_i,\qquad P=QQ^T
Vad gör formeln?
Ger närmaste punkt i W och en symmetrisk idempotent projektionsmatris.
När får den användas?
q_1,…,q_k är en för W och Q=[q_1 ⋯ q_k].

ATAx^=ATbA^TA\widehat{x}=A^Tb
Vad gör formeln?
Ger den minsta-kvadrat-lösning som minimerar normen ||Ax−b||.
När får den användas?
Används när Ax=b är överbestämt eller inkonsistent; entydighet kräver kolonner.

Projektionsmatris för en basmatris

P=A(ATA)1ATP=A(A^TA)^{-1}A^T
Vad gör formeln?
Projicerar ortogonalt på kolonnrummet utan att först skriva en .
När får den användas?
Kolonnerna i A är och spänner delrummet.

Ortogonalt komplement

V={xRn:xv=0  vV},dimV+dimV=n,(ColA)=Null(AT)V^{\perp}=\{x\in\mathbb R^{n}:x\cdot v=0\ \ \forall v\in V\},\qquad\dim V+\dim V^{\perp}=n,\qquad(\operatorname{Col}A)^{\perp}=\operatorname{Null}(A^{\mathsf T})
Vad gör formeln?
Samlar alla som står vinkelrätt mot ett helt .
När får den användas?
V är ett av R^n. Om V ges som ett linjärt hölje fås komplementet som nollrummet till den matris som har de spännande vektorerna som rader.

Hänger ihop med

Kan du använda ortogonalitet och minsta kvadrat?

Lös en riktig tentauppgift från SF1624 med ledtrådar och lösningsförslag. Inget konto behövs.

Prova en uppgift