⟹ skalární součin je jednoznačně určený hodnotami součinů všech bazických vektorů.
(hodnoty si ale můžeme zvolit libovolně na rozdíl od lineárního zobrazení)
Definice
Norma indukovaná skalárním součinem
je definovaná:
∥x∥:=⟨x,x⟩ kde x∈V
Pro normální skalární součin v Rn: Euklidovská norma ∥x∥=∑i=1nxi2
yk:=∑j=1k−1⟨xk,zj⟩zj // nakolmíme odečtením projekce do podprostoru
zk:=∥yk∥yk
end for
Výstup: z1,…,zn ortonormální báze prostoru span{x1,…,xn}
Důkaz
Matematickou indukcí:
n=1
Indukční předpoklad: z1,…,zn−1 je ortonormální bází span{x1,…,xn−1},
yn je nenulové z lineární nezávislosti, je dobře definovaná a má jednotkovou délku
pak už jen dokážeme, že je kolmý a že tvoří bázi.
Tvrzení
Důsledek: Existence ortonormální báze
Každý konečně generovaný prostor se skalárním součinem má ortogonální bázi.
Důkaz
Každý má bázi a tu můžeme Gram-Schmitzem ortogonalizovat.
Tvrzení
Důsledek: Rozšíření ortonormálních systémů na ortonormální bázi
Každý ortonormální systém vektorů v konečně generovaném prostoru lze rozšířit na ortonormální bázi.
Věta
Buď z1,…,zn ortonormální systém ve V a buď x∈V.
Besselova nerovnost:
∥x∥2≥j=1∑n∣⟨xj,zj⟩∣
Parsevalova rovnost:
∥x∥2=j=1∑n∣⟨xj,zj⟩∣⟺x∈span{z1,…,zn}
Tvrzení
Buď B={z1,…,zn} báze prostoru V. Pak
⟨x,y⟩:=[x]BT[y]B
Je skalárním součinem a báze B je v něm ortonormální bází:
Důkaz
Stačí ověřit z definic:
⟨x,x⟩=[x]BT[x]B≥0
linearita v první složce vyplývá z linearity souřadnic
Buď V vektorový prostor a M⊆V. Ortogonální doplněk množiny M je
M⊥:={x∈V;⟨x,y⟩=0∀y∈M}
Ortogonální doplněk prostoru = ortogonální doplněk báze
Tvrzení
Buď V vektorový prostor a M,N⊆V. Pak
M⊥ je podprostor V
je-li M⊆N pak M⊥⊆N⊥
M⊥=span(M)⊥
Důkaz
Ověřením vlastností podprostoru
Buď x∈N⊥, tedy ⟨x,y⟩=0∀y∈N⟨x,y⟩=0∀y∈M⊆N a proto x∈M⊥
M⊆span(M) a dle 2. M⊥⊆span(M)⊥
Věta
Vlastnosti ortogonálního doplňku podprostoru
Buď U⋐V, buď z1,…,zn ortogonnální báze V, a buď
z1,…,zn,zn+1,…,zm její rozšíření na ortonormální bázi V.
Pak zn+1,…,zm je ortonormální báze U⊥
Důkaz
Stačí dokázat span{zn+1,…,zm}=U⊥.
Inkluze “⊇” vezmeme Fourierův rozvoj - prvních m členů vypadne a zbude:
x=i=n+1∑m⟨x,z⟩zi∈span{zn+1,…,zm}
Inkluze “⊆” Buď x∈span{zn+1,…,zm}
x=i=n+1∑m⟨x,z⟩zi=i=1∑n0zi+i=n+1∑m⟨x,zi⟩zi
Věta
Důsledek: Vlastnosti ortogonálního doplňku podprostoru
Buď U⋐V. Potom platí
dimV=dimU+dimU⊥
V=U+U⊥
U∩U⊥={0}
U=(U⊥)⊥
Je-li z1,…,zm ortonormální báze U, a je-li z1,…,zm,zm+1,…,zn její rozšíření na ortonormální bází V, pak zm+1,…,zn
je ortonormální báze U⊥.
Důkaz
2.dimV=n,dimU=m, dimU⊥=n−m 5.zm+1,…,zn je ortonormální systém. Chceme dokázat, že
span{zm+1,…,zn}=U⊥A
∀x∈V:x=i=1∑n⟨x,zi⟩zi
Je-li x∈U⊥, pak ⟨x,zi⟩=0,i=1…m a tudíž
x=i=m+1∑n⟨x,zi⟩zi∈span{zm+1,…,zn}
Věta
Buď A∈Rm×n. Pak R(A)⊥=Ker(A)
Důkaz
R(A)⊥={(A1∗)T,…(Am∗)T}
Tedy x∈R(A)⊥≡x⊥ na řádky A
Důsledek
Buď A∈Rm×n. Pak R(A)⊕Ker(A)=Rn
Věta
Větička o vlastnostech matice A versus ATA
Buď A∈Rm×n. Pak
Ker(ATA)=Ker(A)
R(ATA)=R(A)
rank(ATA)=rank(A)
Důkaz
1. Je-li x∈Ker(A), pak Ax=0 a tedy
ATAx=AT0=0⟹x∈Ker(ATA)
obráceně
x∈Ker(ATA)→xTATAx=0→(Ax)TAx=0→(Ax)2=0
2. vyřešíme R(A)=ker(A)⊥ 3. Když jsou stejné řádky, potom mají stejnou dimenzi a i hodnost
Tvrzení
Maticové prostory a lineární zobrazení
Uvažujme lineární zobrazení f(x)=Ax, kde A∈Rm×n. Pokud definiční
obor f(x) omezíme pouze na prostor R(A), dostaneme isomorfismus mezi R(A) a
f(Rn).
Důkaz
Buď x∈Rn,R(A)⊕Ker(A)=Rn, rozložíme na x=xr+xk, kde
xr∈R(A) a xk∈Ker(A). Pak
f(x)=Ax=A(xr+xk)=Axr+Axk0=Axr
Věta
Buď A∈Rm×n hodností n. Pak je projekce vektoru x∈Rm do
sloupcového prostoru S(A)
x′=A(ATA)−1ATx
Důkaz
Nejdříve dokážeme, že je dobře definován, pak x′∈S(A) a x−x′∈S(A)⊥ x′∈S(A), x′=Az pro z=(ATA)−1ATx x−x′∈S(A)⊥=R(AT)⊥=Ker(AT)→ vynásobíme s
AT(x−x′)=0 (po úpravě)
Definice
Matice projekce do S(A)
P:=A(ATA)−1AT(=AAT pro ortonormaˊlnıˊ baˊzi)
P je symetrická
platí P2=P
S(P)=S(A)→rank(P)=rank(A)
Tvrzení
Matice P∈Rn×n je maticí projekce právě tehdy když je symetrická
a P=P2.
Příklad:
Matice projekce P=a(aTa)−1aT
Px=a(aTa)−1aTx=aTaaTxa
pokud a znormujeme, tak P=aaT.
Věta
Ortogonální projekce do doplňku
Buď P∈Rn×n matice projekce do podprostoru V⋐Rn.
Pak I−P je maticí projekce do V⊥
Důkaz
∀x∈Rn platí x=y+z kde y∈V a z∈V⊥.
Zde y je projekce x do V a z projekce x do V⊥
Metoda nejmenších čtverců
x∈Rnmin∥Ax−b∥22=x∈Rnmini=1∑n(Ai∗x−bi)2
přenásobíme AT
ATAx=ATb
Věta
Množina přibližných řešení soustavy Ax=b metodou nejmenších čtverců je neprázdná
a rovna množině řešení normálních rovnic.
Důkaz
Hledáme projekci b do podprostoru S(A).
Projekce je tvaru Ax, kde x∈Rn.
Víme, že Ax je projekcí ≡Ax−b∈S(A)T−Ker(A)T ⟹AT(Ax−b)=0⟹ATAx=ATb.
Důsledek
Buď A∈Rm×n hodnosti n. Pak přibližné řešení soustavy Ax=b
metodou nejmenších čtverců je jednoznačné a tvaru
x∗=(ATA)−1ATb
Definice
Matice Q∈Rn je ortogonální pokud QTQ=In (Q−1=QT)
Matice Q∈Rn je unitární, pokud QTQ=In
Tvrzení
Charakterizace ortogonálních matic
Matice Q∈Rn×n je ortogonální právě tehdy když sloupce Q tvoří
ortonormální bázi Rn.
Důkaz
(QTQ)ij=⟨Q∗i,Q∗j⟩={10i=ji=j
Tvrzení
Buď Q∈Rn×n ortogonální. Pak
QT je ortogonální
Q−1 existuje a je ortogonální
Tvrzení
Součin ortogonálních matic
Jsou-li Q1,Q2∈Rn×n ortogonální, pak Q1Q2 je taky
ortogonální.
Důkaz
(Q1Q2)T(Q1Q2)=Q2TQ1TQ1Q2=Q2TQ2=In
Příklady ortogonálních matic
In a k ní opačná −In
Housenholderova matice: H(a):=In−aTa2, kde 0=a∈Rn (zrcadlení dle nadroviny)
Givensova matice: matice otáčení v rovině dvou os
Matice otáčení kolem osy 2aTaaaT−In
Poznámka
každou ortogonální matici řádu n lze vyjádřit jako součin maximálně n Hesenholderových matic
Givensova matice
pro n=2
(cosϕsinϕ−sinϕcosϕ)
otočí ϕ protisměru hodinových ručiček, kde cos2ϕ+sin2ϕ=1.
Pro větší n doplňujeme jednotkovými maticemi.
Poznámka
Každou ortogonální matici řádu n lze vyjádřit jako součin max (2n) Givensových matic.
Věta
Buď Q∈Rn×n ortogonální. Pak
⟨Qx,Qy⟩=⟨x,y⟩ pro každé x,y∈Rn
∥Qx∥=∥x∥ pro každé x∈Rn (kdy i rozšířená matice o 1 řád je ortogonální)
Důkaz
⟨QxQy⟩=(Qx)TQy−xTQTQy=xTIny=xT=⟨x,y⟩
∥Qx∥=⟨Qx,Qx⟩−⟨x,x⟩=∥x∥
⟹ zobrazení x→Qx zachová úhly a délky jen pro ortogonální matice
Věta
Buď Q∈Rn×n ortogonální. Pak
∣Qij∣≤1 a ∣Qij−1∣≤1 pro každé i,j=1,…,n
(100Q)T je ortogonální amtice
Důkaz
Buď z1,…,zn báze Rn, buď v∈Rn a chceme v=∑i=1nxizi
Determinant
Definice
Determinant zobrazení ∣A∣
det(A)=Π∈Sn∑sgn(Π)i=1∏naiΠ(i)
Celkový počet permutací je n!
Determinant horní trojúhelníkové matice
A∈Πn×n je horní trojúhelníková matice. Pak
det(A)=a11⋅a22⋅…⋅ann
Determinant transpozice
det(AT)=Π∈Sn∑sgn(Π)i=1∏naiΠ(i)=det(A)
Vlastnosti determinantů
det(A⋅B)=det(A)⋅det(B)
det(A−1)=det(A)−1
Determinantská složitost
Věta
Řádková linearita determinantu A∈Πn×n,b∈Πn. Potom pro
každé i≤n platí, že
det(A+ebT)=det(A)+det(A+e⋅(bT−Ai∗))
Věta
Výpočet determinantu pomocí Gaussovy eliminace
Vynásobení i-tého řádku α∈Π
det(A′)=αdet(A)
Výměna i-tého a j-tého řádku
det(A′)=−det(A)
Přičtení α násobku j-tého řádku
det(A′)=det(A)
Důsledek:
Matice A je regulární právě tehdy když det(A)=0
Věta
Laplacův rozvoj podle i-tého řádku A∈Πn×nn≥2, pro
každé i=1,…,n
det(A)=j=1∑n(−1)i+jaijdet(Aij)
Věta
A∈Πn×n regulární, b∈Πn
xi=det(A)det(A+(b−A∗i)ei;i=1,…,n
Důsledek
Zobrazení (A,b)→A−1b je spojité na definičním oboru regulárních matic.
Věta
Gaussovu eliminaci lze provádět tak, že k zápisu každé matice během výpočtu stačí pouze polynomiální počet bitů (v k).
Definice
Adjungovaná matice
Nechť A∈Πn×n,n≥2.
adj(A)ij=(−1)i=jdet(Aji);i,j=1,…,n
kde Aji vznikne z A vynecháním j-tého řádku a i-tého sloupce.
Věta
A⋐Πn×n⟹Aadj(A)=det(AIn)
Důsledek
A∈Πn×n je regulární. Potom A−1=det(A)1adj(A)
Vlastní čísla
Definice
Vlastní čísla a vlastní vektory
Buď A∈Cn×n. Pak λ∈C je vlastní číslo matice A
a x∈Cn jemu příslušný vlastní vektor pokud
Ax=λx∧x=0
Věta
Buď A∈Cn×n. Pak
1.λ∈C je vlastním číslem A právě tehdy když
det(A−λIn)=0
2.x∈Cn je příslušným vlastním vektorem právě tehdy, když
0=x∈Ker(A−λIn)
Tvrzení
Vlastní čísla trojúhelníkové matice
Nechť A∈Cn×n je trojúhelníková matice. Pak její vlastní čísla jsou prvky
na diagonále.
Definice
Charakteristický polynom matice A∈Cn×n proměnné λ je
PA=det(A−λI)
Věta
Vlastní čísla matice A∈Cn×n jsou právě kořeny jejího charakteristického
polynomu PA(λ) a je jich n včetně násobností.
Definice
Buď λ∈C vlastní číslo matice A∈Cn×n.
Algebraická násobnostλ je rovna
Geometrická násobnostλ je rovna n−rank(A−λIn), to je
počtu lineárně nezávislých vlastních vektorů, které odpovídají λ.
Tvrzení
Součin a součet vlastních čísel:
det(A)=λ1⋅…⋅λn
trace(A)=λ1+…+λn
A je regulární právě tehdy když 0 není její vlastní číslo.
Tvrzení
Nechť A∈Cn×n má vlastní čísla λ1,…,λ a jim
odpovídající vlastní vektory x1,…,xn. Pak
je-li A regulární, pak A^{-1} má vlastní čísla λ1−1,…λn−1 a vlastní vektory x1,…,xn
A2 má vlastní čísla λ12,…,λn2 a vlastní vektory x1,…,xn
αA má vlastní čísla αλ,…,αλn a vlastní vektory x1,…,xn
A+αIn má vlastní čísla λ1+α,…,λn+α a x1,…,xn
AT má vlastní čísla λ1,…,…n, ale vlastní vektory obecně jiné.
Je-li λ∈C vlastní číslo matice A∈Rn×n pak i
komplexně sdružené λ je vlastním číslem A
Tvrzení
Buď A∈Cn×n. Je-li A regulární, pak
A−1∈span{In,A,…,An−1}
Tedy A−1 je lineární kombinací matic In,A,…,An−1.
Důkaz
Víme, že A−1=(−1)nAn+αn−1An−1+…+α1A+α0In=0
Také víme, že α0=det(A)=0.