KI-Orchestrierung

Einfach erklärt

KI-Orchestrierung ist die Koordination aller Teile eines KI-Systems. Statt ein einzelnes Modell aufzurufen, werden mehrere Schritte, Modelle und Tools zu einem zusammenhängenden Workflow verbunden.

Einfacher API-Aufruf vs. orchestrierter Workflow:

Einfach:
  User-Frage → LLM → Antwort

Orchestriert (RAG):
  User-Frage
    → Query-Rewriting (LLM)
    → Embedding-Suche (Vektordatenbank)
    → Reranking (Cross-Encoder)
    → Prompt Assembly
    → LLM-Generierung
    → Guardrail-Check
    → Antwort + Quellen

Orchestrierungs-Patterns

Pattern	Beschreibung	Framework
Sequential Pipeline	Schritt für Schritt	LangChain Chains
Router	Weiterleitung an das richtige Modell	LLM Router, Semantic Router
Fan-out/Fan-in	Parallel verarbeiten, dann zusammenführen	LangGraph
Retry + Fallback	Bei Fehler: alternatives Modell nutzen	Eigene Logik
State Machine	Zustandsabhängige Abläufe	LangGraph
Human-in-the-Loop	Mensch an bestimmten Stellen einbinden	LangGraph Checkpoints

Vergleich der Frameworks

Framework	Stärke	Komplexität	Für
LangChain	Breitestes Ökosystem	Mittel-Hoch	RAG, Chains
LlamaIndex	Daten-fokussiert	Mittel	RAG, Indexierung
LangGraph	Zustandsbehaftete Agents	Hoch	Agenten, komplexe Workflows
Haystack	Pipeline-Fokus	Mittel	NLP, RAG
Custom (Python)	Maximale Kontrolle	Variabel	Produktion

Beispiel: RAG-Orchestrierung

from langchain_core.runnables import RunnablePassthrough
from langchain_openai import ChatOpenAI
from langchain_community.vectorstores import Chroma

# Komponenten definieren
retriever = Chroma(...).as_retriever(search_kwargs={"k": 5})
llm = ChatOpenAI(model="gpt-4o")

# Orchestrierung als Chain
rag_chain = (
    {"context": retriever, "question": RunnablePassthrough()}
    | prompt_template
    | llm
    | output_parser
)

# Ausführen
result = rag_chain.invoke("Was ist Orchestrierung?")