Last Updated on August 9, 2019
Was ist Lineare Algebra?
Lineare Algebra ist ein Bereich der Mathematik, der allgemein als Voraussetzung für ein tieferes Verständnis des maschinellen Lernens angesehen wird.
Obwohl die lineare Algebra ein großes Gebiet mit vielen esoterischen Theorien und Erkenntnissen ist, sind die grundlegenden Werkzeuge und Notationen aus diesem Bereich für Praktiker des maschinellen Lernens sehr praktisch. Mit einer soliden Grundlage, was lineare Algebra ist, ist es möglich, sich nur auf die guten oder relevanten Teile zu konzentrieren.
In diesem Tutorium werden Sie entdecken, was genau lineare Algebra aus der Perspektive des maschinellen Lernens ist.
Nach Abschluss dieses Tutoriums werden Sie wissen:
- Lineare Algebra ist die Mathematik der Daten.
- Lineare Algebra hat den Bereich der Statistik stark beeinflusst.
- Lineare Algebra liegt vielen praktischen mathematischen Werkzeugen zugrunde, wie z.B. Fourier-Reihen und Computergrafiken.
Starten Sie Ihr Projekt mit meinem neuen Buch Lineare Algebra für maschinelles Lernen, das Schritt-für-Schritt-Tutorials und die Python-Quellcodedateien für alle Beispiele enthält.
Lassen Sie uns beginnen.
Eine sanfte Einführung in die Lineare Algebra
Foto von Steve Corey, einige Rechte vorbehalten.
Übersicht über das Tutorial
Dieses Tutorial ist in 4 Teile unterteilt; sie sind:
- Lineare Algebra
- Numerische Lineare Algebra
- Lineare Algebra und Statistik
- Anwendungen der Linearen Algebra
Brauchen Sie Hilfe bei der Linearen Algebra für maschinelles Lernen?
Machen Sie jetzt meinen kostenlosen 7-Tage-E-Mail-Crashkurs (mit Beispielcode).
Klicken Sie auf die Anmeldung und erhalten Sie außerdem eine kostenlose PDF-Ebook-Version des Kurses.
Laden Sie sich Ihren KOSTENLOSEN Mini-Kurs herunter
Lineare Algebra
Lineare Algebra ist ein Zweig der Mathematik, aber in Wahrheit ist die lineare Algebra die Mathematik der Daten. Matrizen und Vektoren sind die Sprache der Daten.
In der linearen Algebra geht es um Linearkombinationen. Das heißt, man rechnet mit Zahlenkolonnen, die Vektoren genannt werden, und mit Zahlenreihen, die Matrizen genannt werden, um neue Zahlenkolonnen und Zahlenreihen zu erzeugen. Lineare Algebra ist das Studium von Linien und Ebenen, Vektorräumen und Abbildungen, die für lineare Transformationen erforderlich sind.
Es handelt sich um ein relativ junges Studiengebiet, das in den 1800er Jahren erstmals formalisiert wurde, um Unbekannte in Systemen linearer Gleichungen zu finden. Eine lineare Gleichung ist nur eine Reihe von Termen und mathematischen Operationen, bei denen einige Terme unbekannt sind, zum Beispiel:
|
1
|
y = 4 * x + 1
|
Gleichungen wie diese sind linear, da sie eine Linie auf einem zweidimensionalendimensionalen Graphen beschreiben. Die Linie entsteht, wenn man verschiedene Werte für die Unbekannte x einsetzt, um herauszufinden, was die Gleichung oder das Modell mit dem Wert von y macht.
Wir können ein Gleichungssystem mit der gleichen Form mit zwei oder mehr Unbekannten aufstellen, zum Beispiel:
|
1
2
3
4
|
y = 0.1 * x1 + 0.4 * x2
y = 0.3 * x1 + 0.9 * x2
y = 0.2 * x1 + 0.3 * x2
…
|
Die Spalte der y-Werte kann als ein Spaltenvektor der Ausgaben der Gleichung aufgefasst werden. Die beiden Spalten mit Fließkommawerten sind die Datenspalten, z. B. a1 und a2, und können als Matrix A aufgefasst werden. Die beiden unbekannten Werte x1 und x2 können als die Koeffizienten der Gleichung betrachtet werden und bilden zusammen einen Vektor der zu lösenden Unbekannten b. Wir können dies kompakt mit der Notation der linearen Algebra schreiben als:
|
1
|
y = A . b
|
Probleme dieser Form sind im Allgemeinen schwierig zu lösen, weil es mehr Unbekannte gibt (hier haben wir 2) als Gleichungen zu lösen sind (hier haben wir 3). Außerdem gibt es oft keine einzige Linie, die alle Gleichungen fehlerfrei erfüllen kann. Systeme, die Probleme beschreiben, an denen wir oft interessiert sind (z. B. eine lineare Regression), können eine unendliche Anzahl von Lösungen haben.
Dies gibt einen kleinen Vorgeschmack auf den Kern der linearen Algebra, der uns als Praktiker des maschinellen Lernens interessiert. Ein Großteil der übrigen Operationen dient dazu, dieses Problem und ähnliche Probleme leichter zu verstehen und zu lösen.
Numerische Lineare Algebra
Die Anwendung der Linearen Algebra in Computern wird oft als numerische Lineare Algebra bezeichnet.
„Numerische“ Lineare Algebra ist in Wirklichkeit angewandte Lineare Algebra.
– Seite ix, Numerical Linear Algebra, 1997.
Sie ist mehr als nur die Implementierung von linearen Algebra-Operationen in Code-Bibliotheken; sie umfasst auch den sorgfältigen Umgang mit den Problemen der angewandten Mathematik, wie z. B. die Arbeit mit der begrenzten Gleitkomma-Präzision von Digitalcomputern.
Computer sind gut darin, lineare Algebra-Berechnungen durchzuführen, und ein Großteil der Abhängigkeit von Graphical Processing Units (GPUs) durch moderne maschinelle Lernmethoden wie Deep Learning ist auf ihre Fähigkeit zurückzuführen, lineare Algebra-Operationen schnell zu berechnen.
Effiziente Implementierungen von Vektor- und Matrixoperationen wurden ursprünglich in den 1970er und 1980er Jahren in der Programmiersprache FORTRAN implementiert, und ein großer Teil des Codes oder des aus diesen Implementierungen portierten Codes liegt einem Großteil der linearen Algebra zugrunde, die mit modernen Programmiersprachen wie Python durchgeführt wird.
Drei beliebte Open-Source-Bibliotheken für numerische lineare Algebra, die diese Funktionen implementieren, sind:
- Linear Algebra Package, oder LAPACK.
- Basic Linear Algebra Subprograms, oder BLAS (ein Standard für lineare Algebra-Bibliotheken).
- Automatically Tuned Linear Algebra Software, oder ATLAS.
Wenn Sie lineare Algebra-Operationen direkt oder indirekt über Algorithmen höherer Ordnung berechnen, ist es sehr wahrscheinlich, dass Ihr Code abtaucht, um eine dieser oder ähnliche lineare Algebra-Bibliotheken zu verwenden. Der Name einer oder mehrerer dieser zugrundeliegenden Bibliotheken ist Ihnen vielleicht bekannt, wenn Sie eine der numerischen Bibliotheken von Python wie SciPy und NumPy installiert oder kompiliert haben.
Lineare Algebra und Statistik
Lineare Algebra ist ein wertvolles Werkzeug in anderen Zweigen der Mathematik, insbesondere in der Statistik.
Gemeinsam wird von Studenten, die Statistik studieren, erwartet, dass sie mindestens ein Semester lineare Algebra (oder angewandte Algebra) im Grundstudium gesehen haben.
– Seite xv, Lineare Algebra und Matrixanalyse für die Statistik, 2014.
Der Einfluss der linearen Algebra ist wichtig, wenn man bedenkt, dass beide Bereiche eine grundlegende Beziehung zum Bereich des angewandten maschinellen Lernens haben.
Ein paar eindeutige Fingerabdrücke der linearen Algebra auf die Statistik und statistische Methoden sind:
- Verwendung der Vektor- und Matrizennotation, insbesondere bei multivariater Statistik.
- Lösungen für kleinste Quadrate und gewichtete kleinste Quadrate, z.B. für lineare Regression.
- Schätzungen von Mittelwert und Varianz von Datenmatrizen.
- Die Kovarianzmatrix, die eine Schlüsselrolle in multinomialen Gaußverteilungen spielt.
- Prinzipielle Komponentenanalyse zur Datenreduktion, die viele dieser Elemente zusammenfasst.
Wie Sie sehen, hängen moderne Statistik und Datenanalyse, zumindest was die Interessen eines Praktikers für maschinelles Lernen betrifft, vom Verständnis und den Werkzeugen der linearen Algebra ab.
Anwendungen der linearen Algebra
Da die lineare Algebra die Mathematik der Daten ist, werden die Werkzeuge der linearen Algebra in vielen Bereichen eingesetzt.
In seinem klassischen Buch zu diesem Thema mit dem Titel „Introduction to Linear Algebra“ widmet Gilbert Strang ein Kapitel den Anwendungen der linearen Algebra. Darin demonstriert er spezifische mathematische Werkzeuge, die in der linearen Algebra wurzeln. In Kürze sind dies:
- Matrizen in der Technik, wie z.B. eine Federlinie.
- Graphen und Netzwerke, wie z.B. die Analyse von Netzwerken.
- Markov-Matrizen, Bevölkerung und Wirtschaft, wie z.B. Bevölkerungswachstum.
- Lineare Programmierung, die Simplex-Optimierungsmethode.
- Fourier-Reihen: Lineare Algebra für Funktionen, die in der Signalverarbeitung weit verbreitet sind.
- Lineare Algebra für Statistik und Wahrscheinlichkeitsrechnung, z.B. kleinste Quadrate für Regression.
- Computergrafik, z.B. die verschiedenen Translations-, Skalierungs- und Rotationsverfahren von Bildern.
Eine weitere interessante Anwendung der linearen Algebra ist die Art von Mathematik, die Albert Einstein in Teilen seiner Relativitätstheorie verwendete. Insbesondere Tensoren und Tensorkalkül. Er führte auch eine neue Art der linearen Algebra-Notation in die Physik ein, die Einstein-Notation oder Einstein-Summenkonvention.
Lineare Algebra Tutorials
Suchen Sie Hilfe für den Einstieg in die lineare Algebra, dann schauen Sie sich einige dieser Tutorials an:
- Lineare Algebra für maschinelles Lernen (7-Tage-Minikurs)
- Lineare Algebra Spickzettel für maschinelles Lernen
- Grundlagen der mathematischen Notation für maschinelles Lernen
Erweiterungen
In diesem Abschnitt finden Sie einige Ideen zur Erweiterung des Tutorials, die Sie vielleicht erkunden möchten.
- Suchen Sie in Büchern und im Internet nach 5 Zitaten, die das Gebiet der linearen Algebra definieren.
- Recherchieren Sie und listen Sie 5 weitere Anwendungen oder Verwendungen der linearen Algebra im Bereich der Wahrscheinlichkeit und Statistik auf.
- Listen Sie 10 Begriffe, die bei der Beschreibung der linearen Algebra verwendet werden, auf und geben Sie kurze Definitionen.
Wenn Sie eine dieser Erweiterungen erforschen, würde ich das gerne wissen.
Weitere Lektüre
In diesem Abschnitt finden Sie weitere Ressourcen zu diesem Thema, wenn Sie das Thema vertiefen möchten.
Bücher
- Einführung in die Lineare Algebra, 2016.
- Numerische Lineare Algebra, 1997.
- Lineare Algebra und Matrixanalyse für Statistik, 2014.
Artikel
- Lineare Algebra auf Wikipedia
- Lineare Algebra Kategorie auf Wikipedia
- Lineare Algebra Themenliste auf Wikipedia
- LAPACK auf Wikipedia
- Basic Linear Algebra Subprograms auf Wikipedia
- Automatisch abgestimmte Lineare Algebra Software auf Wikipedia
- Einstein-Notation auf Wikipedia
- Mathematik der allgemeinen Relativitätstheorie auf Wikipedia
- Lineare Algebra für maschinelles Lernen
Zusammenfassung
In diesem Tutorial, haben Sie eine sanfte Einführung in die lineare Algebra aus der Perspektive des maschinellen Lernens kennengelernt.
Insbesondere haben Sie gelernt:
- Lineare Algebra ist die Mathematik der Daten.
- Lineare Algebra hat einen großen Einfluss auf das Gebiet der Statistik gehabt.
- Lineare Algebra liegt vielen praktischen mathematischen Werkzeugen zugrunde, z.B. Fourier-Reihen und Computergrafik.
Haben Sie Fragen?
Setzen Sie sich mit Ihren Fragen in den Kommentaren unten auseinander und ich werde mein Bestes tun, um sie zu beantworten.
Get a Handle on Linear Algebra for Machine Learning!
Entwickle ein funktionierendes Verständnis der linearen Algebra
….durch das Schreiben von Codezeilen in Python
Entdecke wie in meinem neuen Ebook:
Lineare Algebra für maschinelles Lernen
Es bietet Tutorials zum Selbststudium zu Themen wie:
Vektornormen, Matrixmultiplikation, Tensoren, Eigendekomposition, SVD, PCA und vieles mehr…
Verstehe endlich die Mathematik der Daten
Skip the Academics. Just Results.
See What’s Inside