Observability

Einfach erklärt

Monitoring sagt dir: „Der Service ist down.” Observability sagt dir: „Der Service ist down, weil der Datenbankaufruf in Funktion X bei User Y nach 30 Sekunden timeoutet, ausgelöst durch eine langsame Query, die durch einen fehlenden Index verursacht wird.”

Der Unterschied liegt in der Tiefe: Monitoring überwacht bekannte Metriken. Observability gibt dir die Werkzeuge, um unbekannte Probleme in komplexen, verteilten Systemen zu untersuchen.

Die drei Säulen:

Säule	Was es ist	Beispiel
Logs	Zeitgestempelte Ereignisse	ERROR: DB timeout after 30s
Metrics	Numerische Messwerte	p99_latency = 2.3s
Traces	Anfragepfad durch Services	Request → Auth → DB → Cache → Response

Technischer Deep Dive

OpenTelemetry-Instrumentierung (Python)

from opentelemetry import trace

tracer = trace.get_tracer(__name__)

def generate_response(prompt: str) -> str:
    with tracer.start_as_current_span("llm-generation") as span:
        span.set_attribute("prompt.length", len(prompt))
        span.set_attribute("model", "gpt-5")

        result = llm.generate(prompt)

        span.set_attribute("response.tokens", result.token_count)
        return result.text

Wichtige Metriken für KI-Systeme

• TTFT (Time to First Token): Wie lange bis das erste Token kommt
• Token-Throughput: Tokens pro Sekunde
• Fehlerrate: Anteil fehlgeschlagener Anfragen
• Retrieval-Latenz: Zeit für Vektordatenbankabfragen in RAG-Systemen