Jemný úvod do lineární algebry

Poslední aktualizace 9. srpna 2019

Co je lineární algebra?

Lineární algebra je oblast matematiky, která je všeobecně považována za předpoklad pro hlubší pochopení strojového učení.

Ačkoli je lineární algebra rozsáhlý obor s mnoha esoterickými teoriemi a poznatky, nástroje a zápisy převzaté z tohoto oboru jsou praktické pro praktiky strojového učení. S pevným základem toho, co je lineární algebra, je možné se zaměřit jen na dobré nebo relevantní části.

V tomto kurzu zjistíte, co přesně je lineární algebra z pohledu strojového učení.

Po absolvování tohoto kurzu budete vědět:

• Lineární algebra je matematika dat.
• Lineární algebra výrazně ovlivnila obor statistiky.
• Lineární algebra je základem mnoha praktických matematických nástrojů, jako jsou Fourierovy řady a počítačová grafika.

Začněte svůj projekt s mou novou knihou Linear Algebra for Machine Learning, která obsahuje tutoriály krok za krokem a zdrojové soubory jazyka Python pro všechny příklady.

Začněme.

Přehled učiva

Toto učivo je rozděleno do 4 částí; jsou to:

1. Lineární algebra
2. Numerická lineární algebra
3. Lineární algebra a statistika
4. Aplikace lineární algebry

Potřebujete pomoc s lineární algebrou pro strojové učení?

Zúčastněte se nyní mého bezplatného 7denního e-mailového rychlokurzu (s ukázkovým kódem).

Klikněte pro registraci a získejte také bezplatnou verzi kurzu ve formátu PDF Ebook.

Stáhněte si minikurz ZDARMA

Lineární algebra

Lineární algebra je odvětví matematiky, ale pravdou je, že lineární algebra je matematika dat. Matice a vektory jsou jazykem dat.

Lineární algebra je o lineárních kombinacích. To znamená používání aritmetiky na sloupcích čísel zvaných vektory a polích čísel zvaných matice k vytváření nových sloupců a polí čísel. Lineární algebra se zabývá studiem přímek a rovin, vektorových prostorů a mapování, které jsou potřebné pro lineární transformace.

Jedná se o poměrně mladý obor, který byl původně formalizován v 19. století za účelem nalezení neznámých v soustavách lineárních rovnic. Lineární rovnice je pouze řada členů a matematických operací, kde některé členy jsou neznámé; např:

Rovnice jako tato jsou lineární v tom smyslu, že popisují přímku na dvoj-dvourozměrném grafu. Přímka vzniká dosazením různých hodnot do neznámé x, abychom zjistili, co rovnice nebo model udělá s hodnotou y.

Soustavu rovnic stejného tvaru můžeme seřadit se dvěma nebo více neznámými; např:

Sloupec hodnot y lze brát jako sloupcový vektor výstupů z rovnice. Dva sloupce hodnot s pohyblivou řádovou čárkou jsou sloupce dat, řekněme a1 a a2, a lze je brát jako matici A. Dvě neznámé hodnoty x1 a x2 lze brát jako koeficienty rovnice a dohromady tvoří vektor neznámých b, které je třeba vyřešit. Kompaktně to můžeme zapsat pomocí zápisu lineární algebry takto:

Problémy tohoto tvaru jsou obecně náročné na řešení, protože je v nich více neznámých (zde máme 2) než rovnic k řešení (zde máme 3). Dále často neexistuje jediná přímka, která by splňovala všechny rovnice bez chyby. Systémy popisující problémy, které nás často zajímají (například lineární regrese), mohou mít nekonečný počet řešení.

Toto je malá ochutnávka samotného jádra lineární algebry, které nás jako odborníky na strojové učení zajímá. Velká část ostatních operací je o tom, jak tento problém a jemu podobné problémy snáze pochopit a řešit.

Numerická lineární algebra

Aplikace lineární algebry v počítačích se často nazývá numerická lineární algebra.

„Numerická“ lineární algebra je ve skutečnosti aplikovaná lineární algebra.

– Strana ix, Numerická lineární algebra, 1997.

Je to více než jen implementace operací lineární algebry v knihovnách kódu; zahrnuje také pečlivé řešení problémů aplikované matematiky, jako je práce s omezenou přesností digitálních počítačů s plovoucí desetinnou čárkou.

Počítače jsou dobré v provádění výpočtů lineární algebry a velká část závislosti moderních metod strojového učení, jako je hluboké učení, na grafických procesorech (GPU) je způsobena jejich schopností rychle počítat operace lineární algebry.

Efektivní implementace vektorových a maticových operací byly původně implementovány v programovacím jazyce FORTRAN v 70. a 80. letech 20. století a mnoho kódu nebo kódu přeneseného z těchto implementací je základem velké části lineární algebry prováděné pomocí moderních programovacích jazyků, jako je Python.

Tři populární open source numerické knihovny lineární algebry, které tyto funkce implementují, jsou:

• Linear Algebra Package neboli LAPACK.
• Basic Linear Algebra Subprograms, neboli BLAS (standard pro knihovny lineární algebry).
• Automaticky laděný software pro lineární algebru, neboli ATLAS.

Často, když počítáte operace lineární algebry přímo nebo nepřímo prostřednictvím algoritmů vyššího řádu, váš kód se velmi pravděpodobně ponoří do použití jedné z těchto nebo podobných knihoven lineární algebry. Název jedné z více těchto základních knihoven vám může být povědomý, pokud jste si nainstalovali nebo zkompilovali některou z numerických knihoven jazyka Python, jako jsou SciPy a NumPy.

Lineární algebra a statistika

Lineární algebra je cenným nástrojem i v jiných odvětvích matematiky, zejména ve statistice.

Obvykle se očekává, že studenti studující statistiku mají za sebou alespoň jeden semestr lineární algebry (nebo aplikované algebry) na bakalářské úrovni.

– Strana xv, Lineární algebra a maticová analýza pro statistiku, 2014.

Vliv lineární algebry je důležité vzít v úvahu vzhledem k základnímu vztahu obou oborů k oblasti aplikovaného strojového učení.

Některé jasné otisky lineární algebry na statistiku a statistické metody zahrnují:

• Používání vektorového a maticového zápisu, zejména u vícerozměrné statistiky.
• Řešení metodou nejmenších čtverců a vážených nejmenších čtverců, například pro lineární regresi.
• Odhady střední hodnoty a rozptylu datových matic.
• Kovarianční matice, která hraje klíčovou roli ve vícenásobných Gaussových rozděleních.
• Analýza hlavních komponent pro redukci dat, která spojuje mnoho těchto prvků.

Jak vidíte, moderní statistika a analýza dat, alespoň pokud jde o zájmy odborníka na strojové učení, závisí na pochopení a nástrojích lineární algebry.

Aplikace lineární algebry

Jelikož lineární algebra je matematikou dat, nástroje lineární algebry se používají v mnoha oblastech.

Ve své klasické knize na toto téma s názvem „Úvod do lineární algebry“ Gilbert Strang uvádí kapitolu věnovanou aplikacím lineární algebry. Ukazuje v ní konkrétní matematické nástroje, které mají kořeny v lineární algebře. Stručně jsou to:

• Matrice v technice, například řada pružin.
• Grafy a sítě, například analýza sítí.
• Markovovy matice, populace a ekonomie, například růst populace.
• Lineární programování, simplexová optimalizační metoda.
• Fourierovy řady: Lineární algebra pro funkce, široce používaná při zpracování signálů.
• Lineární algebra pro statistiku a pravděpodobnost, například nejmenší čtverce pro regresi.
• Počítačová grafika, například různé translace, změny měřítka a rotace obrázků.

Další zajímavou aplikací lineární algebry je, že se jedná o typ matematiky, kterou použil Albert Einstein v částech své teorie relativity. Konkrétně tenzory a tenzorový kalkul. Do fyziky také zavedl nový typ zápisu lineární algebry, který se nazývá Einsteinova notace neboli Einsteinova sumační konvence.

Návody na lineární algebru

Hledáte pomoc pro začátky s lineární algebrou, pak se podívejte na některé z těchto návodů:

• Lineární algebra pro strojové učení (7denní minikurz)
• Lineární algebra Cheat Sheet for Machine Learning
• Základy matematické notace pro strojové učení

Rozšíření

Tato část uvádí několik nápadů na rozšíření výukového kurzu, které byste mohli chtít prozkoumat.

• Vyhledejte v knihách a na internetu 5 citátů definujících oblast lineární algebry.
• Vyhledejte a uveďte 5 dalších aplikací nebo použití lineární algebry v oblasti pravděpodobnosti a statistiky.
• Vyjmenujte a napište krátké definice 10 pojmů používaných při popisu lineární algebry.

Pokud prozkoumáte některé z těchto rozšíření, budu rád, když mi dáte vědět.

Další četba

Tato část obsahuje další zdroje k tématu, pokud chcete jít hlouběji.

Knihy

• Úvod do lineární algebry, 2016.
• Numerická lineární algebra, 1997.
• Lineární algebra a analýza matic pro statistiku, 2014.

Články

• Lineární algebra na Wikipedii
• Kategorie lineární algebry na Wikipedii
• Seznam témat lineární algebry na Wikipedii
• LAPACK na Wikipedii
• Základní podprogramy lineární algebry na Wikipedii

.

• Automaticky laděný software pro lineární algebru na Wikipedii
• Einsteinova notace na Wikipedii
• Matematika obecné relativity na Wikipedii

• Lineární algebra pro strojové učení

Shrnutí

V tomto kurzu, jste objevili jemný úvod do lineární algebry z pohledu strojového učení.

Konkrétně jste se dozvěděli:

• Lineární algebra je matematika dat.
• Lineární algebra výrazně ovlivnila oblast statistiky.
• Lineární algebra je základem mnoha praktických matematických nástrojů, jako jsou Fourierovy řady a počítačová grafika.

Máte nějaké otázky?
Pokládejte je v komentářích níže a já se budu snažit na ně odpovědět.

.