Function Calling

Function Calling im Überblick

Function Calling ermöglicht LLMs, strukturierte Funktionsaufrufe zu generieren statt nur Text. Das Modell entscheidet, welche Funktion mit welchen Parametern aufgerufen werden soll – deine Anwendung führt sie aus.

Warum ist das wichtig?

Ohne Function Calling kann ein LLM nur Text ausgeben. Mit Function Calling kann es Aktionen auslösen: E-Mails senden, Termine buchen, Daten abfragen, Berechnungen durchführen.

Der Ablauf:

1. Du definierst verfügbare Funktionen (JSON Schema)
2. User fragt: "Wie ist das Wetter in Berlin?"
3. LLM generiert: {"name": "get_weather", "arguments": {"city": "Berlin"}}
4. Deine App ruft die Wetter-API auf
5. Ergebnis geht zurück ans LLM
6. LLM antwortet: "In Berlin sind es 18°C und sonnig."

Technisch betrachtet

Funktionsdefinition

{
  "name": "get_weather",
  "description": "Ruft aktuelle Wetterdaten für eine Stadt ab",
  "parameters": {
    "type": "object",
    "properties": {
      "city": {
        "type": "string",
        "description": "Name der Stadt"
      },
      "unit": {
        "type": "string",
        "enum": ["celsius", "fahrenheit"],
        "default": "celsius"
      }
    },
    "required": ["city"]
  }
}

Parallel Function Calling

Moderne APIs unterstützen mehrere Funktionsaufrufe gleichzeitig:

User: "Wie ist das Wetter in Berlin und München?"
LLM: [
  {"name": "get_weather", "arguments": {"city": "Berlin"}},
  {"name": "get_weather", "arguments": {"city": "München"}}
]

Best Practices

• Klare Beschreibungen: Je besser die Funktionsbeschreibung, desto zuverlässiger die Auswahl
• Validierung: Alle Parameter vor Ausführung prüfen
• Fehlerbehandlung: Was passiert, wenn die Funktion fehlschlägt?
• Timeouts: Externe APIs können langsam sein – Timeouts setzen