Feature Scaling
Die Transformation von Features auf vergleichbare Wertebereiche – wichtig für viele ML-Algorithmen, besonders bei Distanzmaßen, Gradientenverfahren und Regularisierung.
Datenvorverarbeitung umfasst alle Schritte, mit denen Rohdaten für ein Machine-Learning-Modell aufbereitet werden – von der Bereinigung über die Skalierung bis zur Kodierung. Sie entscheidet oft mehr über den Erfolg als das Modell selbst.
Datenvorverarbeitung (englisch Preprocessing) umfasst alle Schritte, mit denen Rohdaten so aufbereitet werden, dass ein Machine-Learning-Modell gut damit arbeiten kann. Echte Daten sind selten sauber: Sie enthalten Lücken, Fehler, unterschiedliche Maßeinheiten und Kategorien in Textform. Bevor ein Modell daraus lernen kann, müssen diese Probleme behoben werden.
In der Praxis ist die Vorverarbeitung oft der zeitaufwendigste Teil eines Projekts – und derjenige, der am stärksten über Erfolg oder Misserfolg entscheidet. Das beste Modell nützt nichts, wenn es mit schlechten Daten gefüttert wird.
| Schritt | Zweck |
|---|---|
| Bereinigung | Tippfehler, Duplikate, fehlerhafte Einträge entfernen |
| Fehlende Werte | auffüllen (Imputation) oder entfernen |
| Skalierung | Werte in vergleichbare Bereiche bringen |
| Kodierung | Kategorien in Zahlen umwandeln (One-Hot, Label-Encoding) |
| Ausreißer | extreme Werte erkennen und behandeln |
Viele Algorithmen reagieren empfindlich auf die Größenordnung der Merkmale. Wenn ein Merkmal in Tausendern und ein anderes zwischen 0 und 1 liegt, dominiert das größere unverhältnismäßig. Feature Scaling und Normalisierung gleichen das aus.
Eine zentrale Regel: Die Parameter der Vorverarbeitung (z. B. Mittelwerte zum Skalieren) werden nur aus den Trainingsdaten gelernt und dann auf Validierungs- und Testdaten angewendet. Wird der gesamte Datensatz gemeinsam vorverarbeitet, sickert Wissen über die Testdaten ins Training – die Bewertung wird trügerisch gut.
Datenvorverarbeitung ist wie die Vorbereitung der Zutaten beim Kochen: Bevor irgendetwas in die Pfanne kommt, wird gewaschen, geschält und klein geschnitten. Überspringt man das, wird das beste Rezept – das beste Modell – nicht gelingen.
Aufbereitung von Rohdaten in eine für Modelle nutzbare, saubere Form
Umfasst Bereinigung, Umgang mit fehlenden Werten, Skalierung und Kodierung
Oft der zeitaufwendigste und ergebnisentscheidendste Schritt im ML-Workflow
Fehlende Werte behandeln
Lücken im Datensatz auffüllen oder betroffene Zeilen entfernen
Merkmale skalieren
Werte in vergleichbare Bereiche bringen, damit kein Merkmal dominiert
Kategorien kodieren
Textkategorien in Zahlen umwandeln (z. B. One-Hot-Encoding)
Ausreißer behandeln
Extreme oder fehlerhafte Werte erkennen und bereinigen
Modelle lernen aus den Daten, die sie bekommen. Sind diese unsauber, inkonsistent oder schlecht skaliert, leidet die Leistung – nach dem Prinzip ‚Garbage in, garbage out'. In der Praxis steckt oft der größte Teil der Arbeit in der Vorverarbeitung, nicht im Modell.
Preprocessing bringt Daten in eine saubere, nutzbare Form (Bereinigen, Skalieren, Kodieren). Feature Engineering geht weiter und erzeugt aus vorhandenen Daten neue, aussagekräftigere Merkmale. Die Grenzen sind fließend, Feature Engineering ist kreativer.
Nein. Parameter wie Mittelwert und Standardabweichung für die Skalierung dürfen nur aus den Trainingsdaten gelernt und dann auf die Testdaten angewendet werden. Sonst fließt Wissen über die Testdaten ein (Data Leakage) und die Bewertung wird zu optimistisch.