Chain-of-Thought

Wie schrittweise Zwischenarbeit komplexe Aufgaben besser prüfbar machen kann

Eine Prompting-Technik, bei der das Modell aufgefordert wird, Schritt für Schritt zu denken – verbessert die Reasoning-Fähigkeiten von LLMs dramatisch.

Einsteiger2 Min Lesezeit

Erklärung starten

Auf einen Blick

3 Punkte

  1. Modell wird aufgefordert, Zwischenschritte explizit auszuformulieren
  2. Verbessert Mathe, Logik und komplexes Reasoning erheblich
  3. Zero-Shot CoT: Einfach 'Denke Schritt für Schritt' anhängen

Sofortantwort

Chain-of-Thought einfach erklärt

Modell denkt Schritt für Schritt, um besser zu argumentieren.

Kurz gesagt
Modell wird aufgefordert, Zwischenschritte explizit auszuformulieren
Typischer Einsatz
Mathematische Probleme, Logisches Reasoning, Code-Debugging
Wichtig zu wissen
Zero-Shot CoT: Einfach 'Denke Schritt für Schritt' anhängen

Chain-of-Thought im Überblick

Ohne Chain-of-Thought versucht ein LLM, direkt die Antwort zu geben. Mit CoT schreibt es seine Gedanken auf – und kommt dadurch zu besseren Ergebnissen.

Ohne CoT:

Frage: "Wenn 3 Hemden 5 Stunden zum Trocknen brauchen, 
        wie lange brauchen 9 Hemden?"
Antwort: "15 Stunden" ← Falsch!

Mit CoT:

Frage: "... Denke Schritt für Schritt."
Antwort: "Die Hemden trocknen parallel, nicht nacheinander.
         3 Hemden brauchen 5 Stunden.
         9 Hemden brauchen auch 5 Stunden (gleiche Wäscheleine).
         Antwort: 5 Stunden" ← Richtig!

Technisch betrachtet

Varianten

  • Zero-Shot CoT: “Let’s think step by step” anhängen
  • Few-Shot CoT: Beispiele mit Lösungsweg im Prompt geben
  • Self-Consistency: Mehrere CoT-Pfade generieren, Mehrheitsentscheid
  • Tree of Thought: Verzweigte Denkpfade explorieren
  • ReAct: Reasoning + Acting kombinieren (Denken + Tool-Nutzung)

Wann hilft CoT?

  • ✅ Mathe, Logik, mehrstufige Probleme
  • ✅ Aufgaben die Planung erfordern
  • ❌ Einfache Fakten-Abfragen (unnötiger Overhead)
  • ❌ Kreative Aufgaben (CoT kann Kreativität einschränken)

Prompt-Beispiele

Zero-Shot CoT:

Frage: Ein Zug fährt um 9:00 los und braucht 2,5 Stunden. 
Wann kommt er an?

Denke Schritt für Schritt.

Few-Shot CoT:

Beispiel: 15 + 27 = ?
Schritt 1: 15 + 20 = 35
Schritt 2: 35 + 7 = 42
Antwort: 42

Jetzt du: 23 + 48 = ?

OpenAI o1 und internes Reasoning

OpenAIs o1-Modelle haben Chain-of-Thought “eingebaut”:

  • Das Modell denkt intern nach, bevor es antwortet
  • Der Denkprozess ist für den Nutzer nicht sichtbar
  • Deutlich bessere Ergebnisse bei komplexen Aufgaben
  • Höhere Kosten und Latenz als Standard-Modelle

Kosten-Nutzen-Abwägung

AspektOhne CoTMit CoT
TokensWeniger2-5x mehr
LatenzSchnellerLangsamer
Mathe-Aufgaben~50% korrekt~90% korrekt
Einfache FragenGutUnnötiger Overhead

Schritt für Schritt

Wann schrittweises Reasoning hilfreich ist

Bei mehrstufigen Aufgaben hilft eine strukturierte Bearbeitung. Sie ersetzt aber weder verlässliche Quellen noch eine Prüfung des Ergebnisses.

  1. Aufgabe in prüfbare Teile teilen

    Strukturieren

    Die Anfrage benennt Ziel, Ausgangsdaten und gewünschtes Format, statt nur nach einer schnellen Schlussfolgerung zu fragen.

    Aufgabe → Teilfragen
  2. Zwischenergebnisse sichtbar machen

    Herleiten

    Das Modell arbeitet mit Annahmen, Rechenschritten oder einer kurzen Begründung, die sich einzeln kontrollieren lässt.

    Teilfragen → Zwischenergebnisse
  3. Quellen und Rechenwege prüfen

    Verifizieren

    Fakten, Zahlen und Annahmen werden gegen Originalquellen, Tools oder eine unabhängige Rechnung abgeglichen.

    Begründung → Prüfung
  4. Antwort mit Grenzen geben

    Einordnen

    Die finale Antwort trennt gesicherte Ergebnisse von Annahmen und nennt, wo menschliche Entscheidung oder Recherche nötig bleibt.

    Prüfung → belastbare Antwort

Konkretes Beispiel

Beispiel: Projektoptionen bewerten

Ein Team möchte zwischen zwei Integrationswegen wählen und braucht eine nachvollziehbare erste Analyse.

Direkte Empfehlung

Das Modell soll sofort eine Variante wählen. Kriterien, Annahmen und Unsicherheiten bleiben unsichtbar und können nicht diskutiert werden.

Strukturierte Analyse

Die Antwort legt Kriterien wie Integrationsaufwand, Datenschutz, Betrieb und Zeitplan offen, bewertet beide Optionen und markiert fehlende Informationen für das Team.

Der Mehrwert liegt nicht im bloßen Ausformulieren eines Denkwegs, sondern in einer überprüfbaren Struktur für Entscheidung und Kontrolle.

Einordnung

Vorteile und Grenzen

Das spricht dafür

  • Hilft, komplexe Aufgaben in nachvollziehbare Teilschritte zu zerlegen.
  • Kann bei Mathematik, Planung und mehrstufiger Analyse die Antwortqualität erhöhen.
  • Macht Annahmen und fehlende Informationen eher sichtbar als eine reine Kurzantwort.
  • Lässt sich mit Tools, Quellen und klaren Ausgabeschemata kombinieren.

Das solltest du beachten

  • Ein plausibler Schritt-für-Schritt-Text kann trotzdem auf falschen Annahmen beruhen.
  • Zusätzliche Ausgabe erhöht Kosten, Zeit und manchmal auch unnötige Komplexität.
  • Interne Denkprozesse eines Modells sind nicht immer verfügbar oder als Beleg geeignet.
  • Für einfache Faktenfragen ist eine direkte, quellengeprüfte Antwort oft besser.
Vertiefung · für Fortgeschrittene

Reasoning als Teil eines verlässlichen Arbeitsablaufs

Schrittweises Vorgehen ergänzt Prompting, Tools und Evaluation, ersetzt diese Bausteine aber nicht.

Wissenskarte

Aufgaben schrittweise bearbeiten

Prompt Engineering
Die Technik, Anweisungen für KI-Modelle optimal zu gestalten.
Reasoning-Modelle
KI-Modelle die durch mehrstufiges Nachdenken komplexe Probleme lösen.
Tool Use
Sprachmodelle können externe Werkzeuge und Funktionen nutzen.
Benchmark
Tests zur objektiven Bewertung von KI-Modellen.
Human in the Loop
Menschen überprüfen und entscheiden über KI-Ergebnisse.
Für wichtige Ergebnisse sollte der Arbeitsablauf Belege und unabhängige Prüfung vorsehen, nicht nur überzeugende Begründungen. Chain-of-Thought gliedert sich in: Prompt Engineering, Reasoning-Modelle, Tool Use, Benchmark, Human in the Loop.

01Einsatzbereiche

Wann ist Chain-of-Thought sinnvoll?

Geeignet für

  • Mathematische ProblemeTextaufgaben Schritt für Schritt lösen statt direkt die Antwort zu raten
  • Logisches ReasoningKomplexe Schlussfolgerungen durch explizite Zwischenschritte
  • Code-DebuggingFehler systematisch eingrenzen durch schrittweise Analyse
  • EntscheidungsfindungPro/Contra abwägen und Schlussfolgerung ableiten

↑ Inhalt

02Werkzeuge

Womit Chain-of-Thought umgesetzt wird

↑ Inhalt

Merksatz

Chain-of-Thought ist wie 'Zeig deinen Rechenweg' in der Mathe-Klausur

Wenn das Modell seine Gedanken aufschreibt, macht es weniger Fehler – weil es sich selbst durch das Problem führt.

  1. Modell wird aufgefordert, Zwischenschritte explizit auszuformulieren
  2. Verbessert Mathe, Logik und komplexes Reasoning erheblich
  3. Zero-Shot CoT: Einfach 'Denke Schritt für Schritt' anhängen

03Wissensnetz

Diese Begriffe brauchst du ebenfalls

Nicht „ähnliche Artikel", sondern die Rolle, die jeder Begriff für Chain-of-Thought spielt.

↑ Inhalt

04Anwenden

Chain-of-Thought praktisch anwenden

↑ Inhalt

05Redaktion

Herkunft und Stand

Redaktion und Aktualität

Ebenex RedaktionRedaktion

Veröffentlicht
Aktualisiert

Dieses Feld entwickelt sich schnell. Oben stehen Veröffentlichung und letzte Änderung; ein Prüfdatum kommt dazu, sobald die Erklärung nach ihrer letzten Änderung geprüft wurde.

↑ Inhalt

06FAQ

Häufige Fragen zu Chain-of-Thought

Warum funktioniert Chain-of-Thought?

LLMs generieren Token für Token. Wenn sie Zwischenschritte aufschreiben, stehen diese als Kontext für die nächsten Tokens zur Verfügung. Das Modell kann auf seine eigenen Zwischenergebnisse zugreifen.

Kostet Chain-of-Thought mehr?

Ja, weil mehr Tokens generiert werden. Aber die Qualitätsverbesserung bei komplexen Aufgaben ist den Mehraufwand fast immer wert.

Welche Formulierung funktioniert am besten für Chain-of-Thought?

'Let's think step by step' ist der Klassiker. Alternativen: 'Erkläre deinen Denkprozess', 'Zeige deine Rechenschritte', oder 'Analysiere das Problem systematisch'. Bei Few-Shot: Beispiele MIT Zwischenschritten zeigen.

Kann Chain-of-Thought auch falsche Ergebnisse liefern?

Ja, das Modell kann überzeugend klingende, aber falsche Zwischenschritte generieren. CoT verbessert die Wahrscheinlichkeit korrekter Antworten, garantiert sie aber nicht. Bei kritischen Anwendungen: Ergebnisse immer verifizieren.

↑ Inhalt

07Weiterlernen

Was möchtest du als Nächstes verstehen?

  • Grundlage nachholen

    Large Language Model

    Ein KI-Modell, das menschenähnliche Sprache generiert und versteht.

  • Technisch vertiefen

    Prompt Engineering

    Die Technik, Anweisungen für KI-Modelle optimal zu gestalten.

  • In der Praxis anwenden

    Richtig prompten lernen

    6 Prinzipien, Anti-Patterns und Templates – der praktische Leitfaden für bessere KI-Prompts.

↑ Inhalt