O introducere ușoară în algebra liniară

Ultima actualizare la 9 august 2019

Ce este algebra liniară?

Algebra liniară este un domeniu al matematicii care este universal recunoscut ca fiind o condiție prealabilă pentru o înțelegere mai profundă a învățării automate.

Deși algebra liniară este un domeniu vast, cu multe teorii și descoperiri ezoterice, instrumentele și notațiile de bază preluate din acest domeniu sunt practice pentru practicienii din domeniul învățării automate. Cu o bază solidă a ceea ce este algebra liniară, este posibil să ne concentrăm doar pe părțile bune sau relevante.

În acest tutorial, veți descoperi ce este exact algebra liniară din perspectiva învățării automate.

După finalizarea acestui tutorial, veți ști:

• Algebra liniară este matematica datelor.

Algebra liniară a avut un impact marcat asupra domeniului statisticii.

• Algebra liniară stă la baza multor instrumente matematice practice, cum ar fi seriile Fourier și grafica pe calculator.

Dă startul proiectului tău cu noua mea carte Linear Algebra for Machine Learning, care include tutoriale pas cu pas și fișierele de cod sursă Python pentru toate exemplele.

Să începem.

Tutorial Overview

Acest tutorial este împărțit în 4 părți; acestea sunt:

1. Algebră liniară
2. Algebră liniară numerică
3. Algebră liniară și statistică
4. Aplicații ale algebrei liniare

Nevoie de ajutor cu Linear Algebra for Machine Learning?

Faceți acum cursul meu rapid gratuit de 7 zile prin e-mail (cu cod de eșantionare).

Click pentru a vă înscrie și obțineți, de asemenea, o versiune gratuită a cursului în format PDF Ebook.

Download Your FREE Mini-Course

Algebra liniară

Algebra liniară este o ramură a matematicii, dar adevărul este că algebra liniară este matematica datelor. Matricele și vectorii sunt limbajul datelor.

Algebra liniară se referă la combinații liniare. Adică, folosirea aritmeticii pe coloane de numere numite vectori și matrici de numere numite matrici, pentru a crea noi coloane și matrici de numere. Algebra liniară este studiul liniilor și planurilor, al spațiilor vectoriale și al corespondențelor care sunt necesare pentru transformările liniare.

Este un domeniu de studiu relativ tânăr, fiind inițial formalizat în anii 1800 pentru a găsi necunoscute în sisteme de ecuații liniare. O ecuație liniară este doar o serie de termeni și operații matematice în care unii termeni sunt necunoscuți; de exemplu:

Ceuațiile de acest fel sunt liniare, în sensul că descriu o dreaptă pe o linie de douăgrafic bidimensional. Linia provine din introducerea unor valori diferite în necunoscuta x pentru a afla ce efect are ecuația sau modelul asupra valorii lui y.

Pot fi aliniat un sistem de ecuații cu aceeași formă cu două sau mai multe necunoscute; de exemplu:

Coloana de valori y poate fi luată ca un vector coloană de ieșiri din ecuație. Cele două coloane de valori în virgulă mobilă sunt coloanele de date, de exemplu a1 și a2, și pot fi considerate ca o matrice A. Cele două valori necunoscute x1 și x2 pot fi considerate ca fiind coeficienții ecuației și formează împreună un vector de necunoscute b care trebuie rezolvat. Putem scrie acest lucru în mod compact folosind notația de algebră liniară sub forma

Problemele de această formă sunt, în general, dificil de rezolvat, deoarece există mai multe necunoscute (aici avem 2) decât ecuații de rezolvat (aici avem 3). Mai mult, deseori nu există o singură linie care să satisfacă toate ecuațiile fără erori. Sistemele care descriu probleme care ne interesează adesea (cum ar fi o regresie liniară) pot avea un număr infinit de soluții.

Aceasta oferă o mică mostră din chiar nucleul algebrei liniare care ne interesează pe noi ca practicieni în domeniul învățării automate. O mare parte din restul operațiilor se referă la facilitarea înțelegerii și rezolvării acestei probleme și a problemelor asemănătoare.

Algebră liniară numerică

Aplicația algebrei liniare în calculatoare se numește adesea algebră liniară numerică.

Algebra liniară „numerică” este de fapt algebră liniară aplicată.

– Pagina ix, Numerical Linear Algebra, 1997.

Este mai mult decât implementarea operațiilor de algebră liniară în biblioteci de coduri; include, de asemenea, tratarea atentă a problemelor de matematică aplicată, cum ar fi lucrul cu precizia limitată în virgulă mobilă a computerelor digitale.

Computerele sunt bune la efectuarea calculelor de algebră liniară, iar o mare parte din dependența de unitățile de procesare grafică (GPU) de către metodele moderne de învățare automată, cum ar fi învățarea profundă, se datorează capacității lor de a calcula rapid operațiile de algebră liniară.

Implementarea eficientă a operațiilor vectoriale și matriciale a fost implementată inițial în limbajul de programare FORTRAN în anii 1970 și 1980 și o mulțime de cod, sau cod portat din acele implementări, stă la baza unei mari părți a algebrei liniare efectuate cu ajutorul limbajelor de programare moderne, cum ar fi Python.

Trei biblioteci populare de algebră liniară numerică open source care implementează aceste funcții sunt:

• Linear Algebra Package, sau LAPACK.
• Basic Linear Algebra Subprograms, sau BLAS (un standard pentru bibliotecile de algebră liniară).
• Automatically Tuned Linear Algebra Software, sau ATLAS.

De multe ori, atunci când calculați operații de algebră liniară direct sau indirect prin algoritmi de ordin superior, este foarte probabil ca codul dumneavoastră să se scufunde pentru a utiliza una dintre aceste biblioteci de algebră liniară sau biblioteci de algebră liniară similare. Este posibil ca numele uneia sau mai multora dintre aceste biblioteci de bază să vă fie familiar dacă ați instalat sau compilat oricare dintre bibliotecile numerice Python, cum ar fi SciPy și NumPy.

Algebră liniară și statistică

Algebra liniară este un instrument valoros în alte ramuri ale matematicii, în special în statistică.

De obicei, se așteaptă ca studenții care studiază statistică să fi văzut cel puțin un semestru de algebră liniară (sau algebră aplicată) la nivel de licență.

– Pagina xv, Linear Algebra and Matrix Analysis for Statistics, 2014.

Impactul algebrei liniare este important de luat în considerare, având în vedere relația fundamentală pe care ambele domenii o au cu domeniul învățării automate aplicate.

Câteva amprente clare ale algebrei liniare asupra statisticii și metodelor statistice includ:

• Utilizarea notației vectoriale și matriciale, în special cu statistica multivariată.
• Soluții pentru cele mai mici pătrate și cele mai mici pătrate ponderate, cum ar fi pentru regresia liniară.
• Estimări ale mediei și varianței matricelor de date.
• Matricea de covarianță care joacă un rol cheie în distribuțiile gaussiene multinomiale.
• Analiza componentelor principale pentru reducerea datelor care reunește multe dintre aceste elemente.

După cum puteți vedea, statistica modernă și analiza datelor, cel puțin în ceea ce privește interesele unui practician al învățării automate, depind de înțelegerea și instrumentele de algebră liniară.

Aplicații ale algebrei liniare

Deoarece algebra liniară este matematica datelor, instrumentele algebrei liniare sunt utilizate în multe domenii.

În cartea sa clasică pe această temă, intitulată „Introduction to Linear Algebra”, Gilbert Strang oferă un capitol dedicat aplicațiilor algebrei liniare. În acesta, el demonstrează instrumente matematice specifice înrădăcinate în algebra liniară. Pe scurt, acestea sunt:

• Matrice în inginerie, cum ar fi o linie de arcuri.
• Grafuri și rețele, cum ar fi analiza rețelelor.
• Matrice Markov, populație și economie, cum ar fi creșterea populației.
• Programare liniară, metoda de optimizare simplex.
• Serie Fourier: Algebră liniară pentru funcții, utilizată pe scară largă în procesarea semnalelor.
• Algebră liniară pentru statistică și probabilitate, cum ar fi cele mai mici pătrate pentru regresie.
• Grafica pe calculator, cum ar fi diversele translații, redimensionări și rotații ale imaginilor.

O altă aplicație interesantă a algebrei liniare este faptul că este tipul de matematică utilizat de Albert Einstein în părți din teoria sa a relativității. Mai exact tensori și calculul tensorial. El a introdus, de asemenea, un nou tip de notație de algebră liniară în fizică, numită notația Einstein, sau convenția de sumare Einstein.

Tutoriale de algebră liniară

Cercetați ajutor pentru a începe cu algebra liniară, atunci aruncați o privire la unele dintre aceste tutoriale:

• Linear Algebra for Machine Learning (7-Day Mini-Course)
• Linear Algebra Cheat Sheet for Machine Learning
• Basics of Mathematical Notation for Machine Learning

Extensions

Această secțiune enumeră câteva idei de extindere a tutorialului pe care ați putea dori să le explorați.

• Cercetați în cărți și pe web 5 citate care definesc domeniul algebrei liniare.
• Cercetați și enumerați încă 5 aplicații sau utilizări ale algebrei liniare în domeniul probabilității și statisticii.
• Enumerați și scrieți scurte definiții pentru 10 termeni utilizați în descrierea algebrei liniare.

Dacă explorați oricare dintre aceste extensii, mi-ar plăcea să aflu.

Lecturi suplimentare

Această secțiune oferă mai multe resurse pe această temă, dacă doriți să aprofundați.

Cărți

• Introduction to Linear Algebra, 2016.
• Numerical Linear Algebra, 1997.
• Linear Algebra and Matrix Analysis for Statistics, 2014.

Articole

• Algebră liniară pe Wikipedia
• Categoria Algebră liniară pe Wikipedia
• Listă de subiecte de algebră liniară pe Wikipedia
• LAPACK pe Wikipedia
• Subprograme de bază de algebră liniară pe Wikipedia

. Software de algebră liniară reglat automat pe Wikipedia

• Notația Einstein pe Wikipedia
• Matematica relativității generale pe Wikipedia

• Algebră liniară pentru învățare automată

Summary

În acest tutorial, ați descoperit o introducere ușoară în algebra liniară din perspectiva învățării automate.

În mod specific, ați învățat:

• Algebra liniară este matematica datelor.
• Algebra liniară a avut un impact marcat asupra domeniului statisticii.

Algebra liniară stă la baza multor instrumente matematice practice, cum ar fi seriile Fourier și grafica pe calculator.

Aveți întrebări?
Puneți întrebările dumneavoastră în comentariile de mai jos și voi face tot posibilul să vă răspund.

.