Mit Google fortfahren
Überwachtes Lernen einfach erklärt
Beim überwachten Lernen lernt ein Modell aus Beispielen, bei denen die richtige Ausgabe bereits bekannt ist. Es soll den Zusammenhang zwischen Eingaben und Ausgaben erkennen und anschließend passende Vorhersagen für neue Daten treffen.
Hake ab, was du schon kannst — und komm am Ende hierher zurück!
Woran erkennst du überwachtes Lernen?
Stell dir einen Spamfilter vor. Zu jeder Trainings-E-Mail ist bereits bekannt, ob sie Spam oder kein Spam ist. Aus solchen Beispielen lernt das Modell, welche Merkmale mit den beiden Klassen zusammenhängen.
Merkmal
Ein Merkmal oder Feature ist eine Eingabe, die das Modell für seine Vorhersage verwendet. Bei einer E-Mail können das beispielsweise bestimmte Wörter oder andere messbare Eigenschaften sein.
Label
Ein Label ist die bekannte Zielausgabe eines Trainingsbeispiels. Es kann durch eine Messung, ein reales Ergebnis oder eine menschliche Kennzeichnung entstehen.
Ein Trainingsbeispiel besteht damit aus einem Eingabe-Ausgabe-Paar: Merkmale hinein, bekanntes Label dazu. Die Labels liefern das Überwachungssignal.
Die Lernarten unterscheiden sich vor allem durch die verfügbare Rückmeldung:
| Lernart | Verfügbare Rückmeldung | Typisches Ziel |
|---|---|---|
| Überwachtes Lernen | bekannte Labels zu Trainingsbeispielen | Klassen oder Werte vorhersagen |
| Unüberwachtes Lernen | keine vorgegebenen Labels | Strukturen oder Gruppen entdecken |
| Verstärkendes Lernen | Belohnungen aus der Interaktion mit einer Umgebung | eine erfolgreiche Handlungsstrategie lernen |
Beim halbüberwachten Lernen werden wenige gelabelte und viele ungelabelte Daten verbunden.
Brauchst du Klassifikation oder Regression?
Die Art der Zielausgabe entscheidet über den Aufgabentyp.
Klassifikation
Bei einer Klassifikation wird eine Eingabe einer von mehreren vorgegebenen Kategorien zugeordnet. Die Ausgabe ist diskret, etwa „Spam“ oder „kein Spam“.
Weitere Beispiele sind Apfel, Banane oder Birne sowie gesund oder erkrankt.
Regression
Bei einer Regression wird ein kontinuierlicher Zahlenwert vorhergesagt, beispielsweise ein Hauspreis, ein Umsatz oder eine Temperatur.
Kategorie gesucht? Klassifikation. Zahlenwert auf einer kontinuierlichen Skala gesucht? Regression.
Eine Immobilienanwendung nutzt Wohnfläche, Lage, Zimmerzahl und Gebäudealter als Merkmale.
- Soll sie „niedrige“, „mittlere“ oder „hohe Preisklasse“ ausgeben, ist es eine Klassifikation.
- Soll sie einen konkreten Preis vorhersagen, ist es eine Regression.
Die Eingabedaten können ähnlich sein. Entscheidend ist die Form der gewünschten Ausgabe.
Für beide Aufgabentypen kommen unterschiedliche Modelle infrage. Entscheidungsbäume, Support Vector Machines, Random Forests und neuronale Netze können je nach Ausgestaltung für Klassifikation oder Regression verwendet werden. Die logistische Regression wird trotz ihres Namens hauptsächlich für binäre Klassifikation eingesetzt.
Wie läuft das Training ab?
Ein Modell wird nicht einfach einmal mit Daten gefüttert. Es wird schrittweise angepasst und anschließend unabhängig geprüft.
- Daten auswählen: Die Beispiele sollen die späteren Einsatzfälle ausreichend abdecken.
- Daten aufbereiten: Fehlerhafte Fälle werden behandelt, Merkmale passend dargestellt und Labels geprüft.
- Modell auswählen: Die Wahl hängt unter anderem von Aufgabe, Rechenbedarf, Genauigkeit und Interpretierbarkeit ab.
- Vorhersagen erzeugen: Das Modell berechnet Ausgaben für Trainingsbeispiele.
- Fehler messen: Eine Verlustfunktion beschreibt die Abweichung zwischen Vorhersage und bekanntem Zielwert.
- Parameter anpassen: Ein Optimierungsverfahren verändert Gewichtungen oder andere Modellparameter, um den Fehler zu verringern.
- Unabhängig prüfen: Daten, die nicht zum eigentlichen Lernen verwendet wurden, zeigen, ob das Modell auf neue Fälle überträgt.
Parameter und Hyperparameter
Parameter werden während des Trainings aus den Daten angepasst, beispielsweise Gewichtungen. Hyperparameter werden für den Lernprozess festgelegt oder mithilfe von Validierungsdaten ausgewählt, beispielsweise eine Lernrate.
Für eine Obstklassifikation liegen gelabelte Bilder von Äpfeln, Bananen und Birnen vor. Das Modell lernt aus einem Teil der Bilder. Danach erhält es andere Bilder, deren richtige Kategorien für die Auswertung bekannt sind, ihm aber nicht als Lösung vorgegeben werden. Erst dieser Vergleich zeigt, wie gut es unbekannte Bilder einordnet.
Warum werden Training, Validierung und Test getrennt?
Jeder Datenteil erfüllt eine andere Aufgabe:
- Trainingsdaten dienen dazu, die Modellparameter zu lernen.
- Validierungsdaten können bei der Auswahl von Modellen und Hyperparametern helfen.
- Testdaten dienen der abschließenden, möglichst unbeeinflussten Bewertung.
Würdest du die Testdaten wiederholt zur Modellauswahl verwenden, würde ihre Information indirekt in die Entwicklung einfließen. Sie wären dann kein unabhängiger Abschlusscheck mehr.
Bei der Kreuzvalidierung werden verschiedene Teile eines Datensatzes nacheinander zur Validierung verwendet. Auch dabei braucht eine abschließende Bewertung Daten, die nicht zur Auswahl des fertigen Modells dienten.
Trainieren heißt anpassen. Validieren heißt auswählen. Testen heißt abschließend prüfen.
Wann generalisiert ein Modell zuverlässig?
Generalisierung bedeutet, dass ein Modell auch für neue Daten aus demselben vorgesehenen Einsatzbereich angemessene Vorhersagen trifft.
Gute Generalisierung hängt nicht nur vom Algorithmus ab. Wichtig sind außerdem:
- genügend vielfältige und repräsentative Beispiele;
- korrekte und eindeutige Labels;
- geeignete, relevante Merkmale;
- realistische Trainingsbedingungen, etwa ein passendes Rauschniveau;
- eine Modellkomplexität, die zur Aufgabe passt;
- eine vom Training getrennte Bewertung.
Overfitting
Beim Overfitting oder der Überanpassung passt sich ein Modell zu eng an die Trainingsdaten an. Es erreicht dort eine hohe Güte, schneidet aber auf neuen Daten deutlich schlechter ab.
Underfitting
Beim Underfitting oder der Unteranpassung ist das Modell zu einfach oder unzureichend trainiert. Es erfasst schon die grundlegenden Muster der Trainingsdaten nicht und liefert sowohl dort als auch bei neuen Daten schlechte Ergebnisse.
| Beobachtung | Wahrscheinliche Diagnose |
|---|---|
| Training gut, Test deutlich schlechter | mögliches Overfitting |
| Training schlecht, Test ebenfalls schlecht | mögliches Underfitting |
| Training und Test gut und ähnlich | Hinweis auf bessere Generalisierung |
Diese Beobachtungen sind Diagnosehinweise, keine automatische Garantie. Auch ein scheinbar gutes Testergebnis kann irreführen, wenn die Testdaten den späteren Einsatz nicht repräsentieren.
Viele Daten allein genügen nicht. Fehlen bestimmte Gruppen oder Einsatzbedingungen, kann das Modell gerade dort unzuverlässig sein. Falsche Labels, unausgewogene Daten und historische Ungleichheiten können außerdem systematische Verzerrungen erzeugen.
Wie planst du eine überwachte Lernaufgabe?
Nutze diese Entscheidungskette:
- Ziel festlegen: Welche Ausgabe soll das System erzeugen?
- Aufgabentyp bestimmen: Ist die Ausgabe eine Kategorie oder ein kontinuierlicher Wert?
- Beispiele festlegen: Welche Merkmale und Labels werden benötigt?
- Daten prüfen: Sind Labels, Teilgruppen und Einsatzbedingungen ausreichend abgedeckt?
- Verfahren auswählen: Passt es zu Datenmenge, Ressourcen, Genauigkeit und gewünschter Interpretierbarkeit?
- Datenteile trennen: Welche Daten dienen Training, Validierung und abschließendem Test?
- Gütemaß wählen: Wie wird der Vorhersagefehler passend zur Aufgabe bewertet?
- Ergebnisse vergleichen: Wie unterscheiden sich Trainings-, Validierungs- und Testleistung?
- Einsatz entscheiden: Erfüllt das Modell die vorher festgelegten Qualitätskriterien?
Aufgabe: Eine Schule möchte eingehende Nachrichten als „Spam“ oder „kein Spam“ einordnen.
Begründete Planung:
- Die Ausgabe besteht aus zwei Kategorien: Es ist eine binäre Klassifikation.
- Bereits geprüfte Nachrichten liefern die Labels.
- Eigenschaften der Nachrichten bilden die Merkmale.
- Trainingsdaten dienen dem Lernen; ein getrennter Datenteil unterstützt die Auswahl; Testdaten prüfen das fertige Modell.
- Weichen Trainings- und Testleistung deutlich voneinander ab, wird auf mögliche Überanpassung geprüft.
- Vor dem Einsatz muss geklärt werden, ob die Daten die später auftretenden Nachrichten ausreichend repräsentieren.
Karteikasten
Überlege zuerst selbst und drehe die Karte anschließend zum Prüfen um.
Alles auf einen Blick
- Überwachtes Lernen
- Datengrundlage
- Merkmale und Labels
- repräsentative Beispiele
- korrekte Zielwerte
- Aufgabentypen
- Klassifikation für Kategorien
- Regression für kontinuierliche Werte
- Lernprozess
- Vorhersage und Fehlermessung
- Anpassung der Parameter
- Auswahl mit Validierungsdaten
- Qualitätsprüfung
- unabhängige Testdaten
- Generalisierung
- Overfitting und Underfitting
- Datengrundlage