Grundlagen
Gradient Descent
Der fundamentale Optimierungsalgorithmus im Machine Learning, der die Parameter eines Modells schrittweise anpasst, um den Fehler zu minimieren.
Einfach erklärt
Die Loss Function (Verlustfunktion) ist das Maß dafür, wie schlecht ein Modell gerade ist. Das Ziel des Trainings: diesen Wert so klein wie möglich machen. Ohne Loss Function gibt es kein Lernen – sie ist das Signal, das dem Modell sagt, in welche Richtung es sich verbessern soll.
Die Wahl der richtigen Loss Function ist entscheidend und hängt von der Aufgabe ab. Für Regression (Zahlen vorhersagen) wird oft Mean Squared Error verwendet. Für Klassifikation Cross-Entropy Loss. Für LLMs ist es typischerweise der negative Log-Likelihood der nächsten Token-Vorhersage. Eine falsch gewählte Loss Function führt dazu, dass das Modell das Falsche optimiert – es minimiert die Loss, aber löst nicht das eigentliche Problem. Das nennt sich “Goodhart’s Law” in der KI.
Die wichtigsten Loss Functions:
| Loss Function | Aufgabe | Formel (vereinfacht) |
|---|---|---|
| MSE (Mean Squared Error) | Regression | Durchschnitt der quadrierten Fehler |
| Cross-Entropy | Klassifikation | -log(vorhergesagte Wahrscheinlichkeit) |
| Binary Cross-Entropy | Binäre Klassifikation | Spezialfall für 2 Klassen |
| Huber Loss | Robuste Regression | Kombination aus MSE und MAE |
Der Trainingsprozess:
- Modell macht eine Vorhersage
- Loss Function berechnet den Fehler
- Backpropagation berechnet Gradienten
- Gradient Descent passt Parameter an
- Wiederholen bis Loss minimal ist
Technischer Deep Dive
Cross-Entropy Loss
Standard für Klassifikation und LLMs:
Loss = -Σ y_true * log(y_pred)Bei LLMs: Für jedes Token wird die Cross-Entropy zwischen der vorhergesagten Token-Wahrscheinlichkeit und dem tatsächlichen nächsten Token berechnet. Perplexity = e^(Loss) ist die übliche Metrik.
Spezielle Loss Functions
- Contrastive Loss: Für Embedding-Modelle (ähnliche Paare zusammen, verschiedene auseinander)
- Triplet Loss: Anker + positives Beispiel + negatives Beispiel
- Focal Loss: Gewichtet schwierige Beispiele stärker (bei Class Imbalance)
- KL-Divergenz: Misst Unterschied zwischen Wahrscheinlichkeitsverteilungen (bei RLHF)
Loss-Kurven interpretieren
- Training Loss sinkt, Validation Loss sinkt: Alles gut, weiter trainieren
- Training Loss sinkt, Validation Loss steigt: Overfitting → Regularisierung nötig
- Beide stagnieren hoch: Underfitting → komplexeres Modell oder bessere Daten
- Loss springt: Learning Rate zu hoch oder fehlerhafte Daten