Sofortantwort
Few-Shot / Zero-Shot Learning einfach erklärt
KI löst Aufgaben mit wenigen oder keinen Beispielen.
- Kurz gesagt
- Zero-Shot: Das Modell löst eine Aufgabe ohne jegliche Beispiele, nur mit einer Anweisung
- Typischer Einsatz
- Textklassifikation ohne Training, Format-Konsistenz, Neue Sprachen
- Wichtig zu wissen
- Ermöglicht durch große vortrainierte Modelle, die breites Wissen mitbringen
Few-Shot / Zero-Shot Learning im Überblick
Few-Shot und Zero-Shot Learning beschreiben, wie gut ein KI-Modell neue Aufgaben lösen kann, ohne speziell dafür trainiert zu werden. Das ist eine der bemerkenswertesten Fähigkeiten moderner LLMs – und ein Hauptgrund, warum sie so vielseitig einsetzbar sind.
Zero-Shot bedeutet: Das Modell löst eine Aufgabe, für die es keine Beispiele gesehen hat – nur durch die Beschreibung der Aufgabe im Prompt. Few-Shot bedeutet: Das Modell bekommt zwei bis fünf Beispiele im Prompt und lernt das Muster sofort. Beide Ansätze funktionieren, weil große Sprachmodelle beim Pre-Training implizit gelernt haben, wie Aufgaben strukturiert sind. Sie müssen nicht neu trainiert werden – sie müssen nur richtig angesprochen werden.
Die Abstufungen:
| Methode | Beispiele | Beschreibung |
|---|---|---|
| Zero-Shot | 0 | Nur eine Anweisung, keine Beispiele |
| One-Shot | 1 | Ein einziges Beispiel |
| Few-Shot | 2-5 | Wenige Beispiele im Prompt |
| Fine-Tuning | 100+ | Viele Beispiele, Modell wird nachtrainiert |
Zero-Shot Beispiel:
Klassifiziere als positiv oder negativ:
"Das Produkt ist fantastisch!" → positiv
Few-Shot Beispiel:
Übersetze ins Formelle:
"Hey, schick mal die Datei" → "Könnten Sie mir bitte die Datei zusenden?"
"Yo, wann ist das Meeting?" → "Könnten Sie mir bitte den Termin des Meetings mitteilen?"
"Check mal den Code" → ?
Technisch betrachtet
Warum funktioniert es?
Große LLMs haben während des Pre-Trainings implizit gelernt, Muster zu erkennen und zu generalisieren. Few-Shot-Beispiele im Prompt aktivieren dieses Wissen – das Modell erkennt das Muster und wendet es an.
In-Context Learning
Few-Shot Learning bei LLMs wird auch “In-Context Learning” genannt:
- Das Modell lernt nicht im klassischen Sinne (keine Gewichtsänderung)
- Es nutzt die Beispiele als Kontext für die Vorhersage
- Die Fähigkeit skaliert mit der Modellgröße
Best Practices
- Diverse Beispiele: Verschiedene Fälle abdecken
- Konsistentes Format: Alle Beispiele gleich strukturieren
- Relevante Beispiele: Ähnlich zur tatsächlichen Aufgabe
- Reihenfolge beachten: Die letzten Beispiele haben oft mehr Einfluss