Sofortantwort
Zero-Shot Learning einfach erklärt
Aufgaben lösen ohne aufgabenspezifische Trainingsbeispiele.
- Kurz gesagt
- Keine aufgabenspezifischen Beispiele nötig – nur eine Beschreibung der Aufgabe
- Typischer Einsatz
- Textklassifikation, Sprachübersetzung, Sentiment-Analyse
- Wichtig zu wissen
- Grundlage für die Vielseitigkeit von GPT-4, Claude und anderen LLMs
Zero-Shot Learning im Überblick
Zero-Shot Learning bedeutet, dass ein Modell eine Aufgabe lösen kann, ohne dafür spezifisch trainiert worden zu sein. Es reicht, die Aufgabe in natürlicher Sprache zu beschreiben.
Die drei Lern-Modi:
Zero-Shot: "Klassifiziere: 'Tolles Produkt!' → ?"
Modell: "Positiv" ✓
One-Shot: "Beispiel: 'Furchtbar' → Negativ.
Klassifiziere: 'Tolles Produkt!' → ?"
Modell: "Positiv" ✓
Few-Shot: "Beispiele:
'Furchtbar' → Negativ
'Super!' → Positiv
'Geht so' → Neutral
Klassifiziere: 'Tolles Produkt!' → ?"
Modell: "Positiv" ✓Warum das funktioniert
Foundation Models haben im Pre-Training implizites Aufgabenwissen erworben:
| Was das Modell im Pre-Training gesehen hat | Was es daraus ableiten kann |
|---|---|
| Millionen Produktbewertungen mit Sternen | Sentiment-Analyse |
| Parallele Texte in vielen Sprachen | Übersetzung |
| Wikipedia-Kategorisierungen | Text-Klassifikation |
| Frage-Antwort-Formate | Question Answering |
Zero-Shot vs. Fine-Tuning
| Aspekt | Zero-Shot | Fine-Tuning |
|---|---|---|
| Daten nötig | Keine | Hunderte bis Tausende |
| Kosten | Nur Inferenz | Training + Inferenz |
| Flexibilität | Hoch (jede Aufgabe) | Niedrig (spezialisiert) |
| Genauigkeit | Gut | Sehr gut |
| Setup-Zeit | Minuten | Stunden bis Tage |
Faustregel: Starte mit Zero-Shot, probiere Few-Shot wenn nötig, Fine-Tune nur wenn die Genauigkeit für den Anwendungsfall nicht reicht.