Function Calling: LLMs mit externen Tools verbinden

ERKLÄRUNG

Einfach erklärt

Function Calling ermöglicht LLMs, strukturierte Funktionsaufrufe zu generieren statt nur Text. Das Modell entscheidet, welche Funktion mit welchen Parametern aufgerufen werden soll – deine Anwendung führt sie aus.

Warum ist das wichtig?

Ohne Function Calling kann ein LLM nur Text ausgeben. Mit Function Calling kann es Aktionen auslösen: E-Mails senden, Termine buchen, Daten abfragen, Berechnungen durchführen.

Der Ablauf:

1. Du definierst verfügbare Funktionen (JSON Schema)
2. User fragt: "Wie ist das Wetter in Berlin?"
3. LLM generiert: {"name": "get_weather", "arguments": {"city": "Berlin"}}
4. Deine App ruft die Wetter-API auf
5. Ergebnis geht zurück ans LLM
6. LLM antwortet: "In Berlin sind es 18°C und sonnig."

Technischer Deep Dive

Funktionsdefinition

{
  "name": "get_weather",
  "description": "Ruft aktuelle Wetterdaten für eine Stadt ab",
  "parameters": {
    "type": "object",
    "properties": {
      "city": {
        "type": "string",
        "description": "Name der Stadt"
      },
      "unit": {
        "type": "string",
        "enum": ["celsius", "fahrenheit"],
        "default": "celsius"
      }
    },
    "required": ["city"]
  }
}

Parallel Function Calling

Moderne APIs unterstützen mehrere Funktionsaufrufe gleichzeitig:

User: "Wie ist das Wetter in Berlin und München?"
LLM: [
  {"name": "get_weather", "arguments": {"city": "Berlin"}},
  {"name": "get_weather", "arguments": {"city": "München"}}
]

Best Practices

Klare Beschreibungen: Je besser die Funktionsbeschreibung, desto zuverlässiger die Auswahl
Validierung: Alle Parameter vor Ausführung prüfen
Fehlerbehandlung: Was passiert, wenn die Funktion fehlschlägt?
Timeouts: Externe APIs können langsam sein – Timeouts setzen

ANALOGIE

Function Calling ist wie ein Assistent, der nicht nur Fragen beantwortet, sondern auch weiß, welches Werkzeug er für welche Aufgabe braucht – und dir sagt, wie du es benutzen sollst.

WICHTIGSTE PUNKTE

LLM generiert strukturierte JSON-Aufrufe statt nur Text

Ermöglicht Integration mit APIs, Datenbanken, Kalendern, etc.

Grundlage für Agents und Tool Use in modernen KI-Anwendungen

ANWENDUNGSFÄLLE

API-Integration

LLM ruft Wetter-API, Kalender oder CRM basierend auf Nutzeranfrage auf

Datenbank-Abfragen

Natürlichsprachliche Fragen werden in SQL-Queries übersetzt

Multi-Tool Agents

Agent wählt automatisch das richtige Tool für jede Teilaufgabe

HÄUFIGE FRAGEN

Was ist der Unterschied zwischen Function Calling und Tool Use?

Die Begriffe werden oft synonym verwendet. Function Calling ist der technische Mechanismus (JSON-Schema für Funktionen), Tool Use ist das breitere Konzept (LLM nutzt externe Werkzeuge). In der Praxis meinen beide dasselbe.

Führt das LLM die Funktion selbst aus?

Nein. Das LLM generiert nur den Aufruf (welche Funktion mit welchen Parametern). Deine Anwendung führt die Funktion aus und gibt das Ergebnis zurück ans LLM.

Wie sicher ist Function Calling?

Das LLM kann beliebige Parameter generieren – auch schädliche. Validiere alle Eingaben, nutze Allowlists für erlaubte Funktionen und implementiere Least Privilege.

TOOLS & RESSOURCEN

OpenAI Function Calling

Offizielle Dokumentation für GPT Function Calling

Anthropic Tool Use

Claude's Implementierung von Function Calling

VERWANDTE BEGRIFFE

LLM Praxis

Tool Use / Function Calling

Die Fähigkeit von Sprachmodellen, externe Werkzeuge und Funktionen aufzurufen – von Websuche über Code-Ausführung bis zu API-Aufrufen.

LLM Praxis

Agent

Ein KI-System, das eigenständig Aufgaben plant, Entscheidungen trifft und Tools nutzt, um komplexe Ziele zu erreichen – über einfache Frage-Antwort-Interaktion hinaus.

LLM Praxis

Agentic Workflows

KI-Systeme, in denen LLMs autonom planen, Entscheidungen treffen und Tools nutzen um komplexe Aufgaben mehrstufig zu lösen – der nächste Schritt nach einfachen Chat-Antworten.

Web DevOps

API (Application Programming Interface)

Eine definierte Schnittstelle, über die Softwaresysteme miteinander kommunizieren können – der Standard für die Integration von KI-Diensten in Anwendungen.

LLM Praxis

Structured Output

Eine Technik, bei der LLMs ihre Antworten in einem vordefinierten Format (meist JSON) ausgeben, statt freiem Text – für zuverlässige Integration in Anwendungen.