Sofortantwort
KI-Orchestrierung einfach erklärt
Koordination mehrerer KI-Komponenten zu automatisierten Workflows.
- Kurz gesagt
- Verbindet LLMs, Tools, Datenquellen und Agenten zu automatisierten Workflows
- Typischer Einsatz
- RAG-Pipelines, Multi-Modell-Routing, Data Processing
- Wichtig zu wissen
- Frameworks und eigene Workflow-Schichten helfen bei Orchestrierung, Monitoring und Zustandsmanagement
KI-Orchestrierung im Überblick
KI-Orchestrierung ist die Koordination aller Teile eines KI-Systems. Statt ein einzelnes Modell aufzurufen, werden mehrere Schritte, Modelle und Tools zu einem zusammenhängenden Workflow verbunden.
Einfacher API-Aufruf vs. orchestrierter Workflow:
Einfach:
User-Frage → LLM → Antwort
Orchestriert (RAG):
User-Frage
→ Query-Rewriting (LLM)
→ Embedding-Suche (Vektordatenbank)
→ Reranking (Cross-Encoder)
→ Prompt Assembly
→ LLM-Generierung
→ Guardrail-Check
→ Antwort + QuellenOrchestrierungs-Patterns
| Pattern | Beschreibung | Framework |
|---|---|---|
| Sequential Pipeline | Schritt für Schritt | LangChain Chains |
| Router | Weiterleitung an das richtige Modell | LLM Router, Semantic Router |
| Fan-out/Fan-in | Parallel verarbeiten, dann zusammenführen | LangGraph |
| Retry + Fallback | Bei Fehler: alternatives Modell nutzen | Eigene Logik |
| State Machine | Zustandsabhängige Abläufe | LangGraph |
| Human-in-the-Loop | Mensch an bestimmten Stellen einbinden | LangGraph Checkpoints |
Vergleich der Frameworks
| Framework | Stärke | Komplexität | Für |
|---|---|---|---|
| LangChain | Breites Ökosystem | Mittel-Hoch | RAG, Chains |
| LlamaIndex | Daten-fokussiert | Mittel | RAG, Indexierung |
| LangGraph | Zustandsbehaftete Agents | Hoch | Agenten, komplexe Workflows |
| Haystack | Pipeline-Fokus | Mittel | NLP, RAG |
| Custom (Python) | Maximale Kontrolle | Variabel | Produktion |
Beispiel: RAG-Orchestrierung
from langchain_core.runnables import RunnablePassthrough
from langchain_openai import ChatOpenAI
from langchain_community.vectorstores import Chroma
# Komponenten definieren
retriever = Chroma(...).as_retriever(search_kwargs={"k": 5})
llm = ChatOpenAI(model="aktuelles-produktionsmodell")
# Orchestrierung als Chain
rag_chain = (
{"context": retriever, "question": RunnablePassthrough()}
| prompt_template
| llm
| output_parser
)
# Ausführen
result = rag_chain.invoke("Was ist Orchestrierung?")