Continual Learning

Continual Learning im Überblick

Continual Learning (auch Lifelong Learning) ist die Fähigkeit von KI-Modellen, kontinuierlich neue Aufgaben zu lernen, ohne dabei das Wissen über frühere Aufgaben zu verlieren. Das klingt selbstverständlich – Menschen können das problemlos – ist aber eines der schwierigsten ungelösten Probleme in der KI. Das Hauptproblem heißt Catastrophic Forgetting: Wenn ein Modell auf neuen Daten trainiert wird, überschreibt es die Gewichte, die für alte Aufgaben wichtig waren.

Continual Learning ist das Ziel, dass KI-Modelle kontinuierlich lernen können, ohne das Alte zu vergessen. Das klingt selbstverständlich, ist aber eines der schwierigsten Probleme in der KI.

Das Problem: Catastrophic Forgetting

Modell trainiert auf Aufgabe A → Kann A gut ✓
Modell trainiert auf Aufgabe B → Kann B gut ✓, vergisst A ✗

Beispiel:
1. Training auf Katzen-Erkennung → 95% Accuracy
2. Training auf Hunde-Erkennung → 90% Accuracy für Hunde
                                 → 40% Accuracy für Katzen (vergessen!)

Warum passiert das?

Neuronale Netze speichern Wissen in Gewichten. Neue Aufgaben überschreiben diese Gewichte – das alte Wissen geht verloren.

Technisch betrachtet

Strategien gegen Catastrophic Forgetting

Elastic Weight Consolidation (EWC)

# Vereinfacht: Wichtige Gewichte weniger ändern
loss = task_loss + λ * Σ F_i * (θ_i - θ*_i)²

# F_i = Fisher Information (wie wichtig ist Gewicht i für alte Aufgaben?)
# θ*_i = Optimale Gewichte nach altem Training
# λ = Regularisierungsstärke

Continual Learning Szenarien

Praktische Alternative: RAG

Für viele Anwendungen ist RAG (Retrieval Augmented Generation) praktischer als echtes Continual Learning:

Statt: Modell neu trainieren für neues Wissen
Besser: Neues Wissen in Vektordatenbank, Modell bleibt gleich