Sofortantwort
Tool Use / Function Calling einfach erklärt
Sprachmodelle können externe Werkzeuge und Funktionen nutzen.
- Kurz gesagt
- LLMs können strukturierte Funktionsaufrufe generieren statt nur Text
- Typischer Einsatz
- Aktuelle Informationen, Berechnungen, Datenbankabfragen
- Wichtig zu wissen
- Grundlage für KI-Agenten und automatisierte Workflows
Tool Use / Function Calling im Überblick
Tool Use ermöglicht es Sprachmodellen, über reinen Text hinauszugehen und echte Aktionen auszuführen. Statt zu sagen “Ich kann das nicht nachschlagen”, kann das Modell eine Websuche starten und aktuelle Informationen liefern.
Der Ablauf:
User: "Wie ist das Wetter in Berlin?"
↓
LLM: Erkennt → Tool "get_weather" aufrufen mit {"city": "Berlin"}
↓
System: Ruft Wetter-API auf → {"temp": 12, "condition": "bewölkt"}
↓
LLM: "In Berlin sind es aktuell 12°C bei bewölktem Himmel."Technisch betrachtet
Function Definition
{
"name": "get_weather",
"description": "Gibt das aktuelle Wetter für eine Stadt zurück",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string", "description": "Name der Stadt"},
"unit": {"type": "string", "enum": ["celsius", "fahrenheit"]}
},
"required": ["city"]
}
}Parallel Function Calling
Moderne Modelle können mehrere Tools gleichzeitig aufrufen:
- “Wie ist das Wetter in Berlin und München?” → Zwei parallele API-Calls
- Reduziert Latenz und Anzahl der LLM-Aufrufe
Sicherheit
- Input Validation: Parameter des Funktionsaufrufs validieren
- Allowlisting: Nur definierte Funktionen erlauben
- Rate Limiting: Anzahl der Tool-Aufrufe begrenzen
- Confirmation: Kritische Aktionen (Löschen, Bezahlen) bestätigen lassen
Schritt für Schritt
Tool Use als kontrollierter Kreislauf
Tool Use erweitert ein Modell um Daten und Aktionen. Die Anwendung muss jedoch jede Ausführung begrenzen, überwachen und bei Bedarf bestätigen lassen.
Werkzeuge begrenzen
Auswahl
Die Anwendung stellt nur Tools bereit, die für die Aufgabe nötig sind, jeweils mit klarer Beschreibung und minimalen Rechten.
Aufgabe → kleine Tool-AuswahlAufruf vorschlagen
Vorschlag
Das Modell wählt ein Tool und liefert strukturierte Argumente, wenn es für die Aufgabe zusätzliche Daten oder eine Aktion braucht.
Anfrage → Tool + ParameterRisiko prüfen und ausführen
Kontrolle
Der Server prüft Parameter, Berechtigung, Rate Limits und gegebenenfalls eine Freigabe vor der echten Ausführung.
Validieren → ausführen oder ablehnenBeobachtung verwenden
Ergebnis
Das Tool-Ergebnis wird als Daten zurückgegeben, damit das Modell die Antwort mit nachvollziehbaren Fakten formulieren kann.
Daten → Antwort oder nächster Schritt
Konkretes Beispiel
Beispiel: Den Lieferstatus prüfen
Ein Kundenservice-Assistent soll eine Bestellung nachschlagen, darf aber keine Adresse ändern oder Geld erstatten.
Breites, unkontrolliertes Tool
Ein einziges Bestell-Tool kann lesen, ändern und erstatten. Ein falscher Aufruf hätte unmittelbare Folgen.
Klein geschnittene Berechtigung
Der Assistent erhält nur ein Lesetool für Status und Tracking. Änderungen bleiben in einem getrennten, bestätigungspflichtigen Ablauf.
Tool Use wird sicherer, wenn jedes Werkzeug nur eine klar abgegrenzte Fähigkeit mit minimalen Rechten anbietet.
Einordnung
Vorteile und Grenzen
Das spricht dafür
- Bringt aktuelle Daten, Berechnungen und externe Systeme in eine Modellinteraktion.
- Macht Antworten überprüfbarer, wenn Tool-Ergebnisse als Quellen sichtbar sind.
- Erlaubt schrittweise Problemlösung über mehrere spezialisierte Tools.
- Entkoppelt natürliche Sprache von der eigentlichen Geschäftslogik.
Das solltest du beachten
- Falsche Parameter oder Tool-Wahlen können zu fehlerhaften Ergebnissen führen.
- Externe Systeme bringen Latenz, Ausfälle und eigene Sicherheitsrisiken mit.
- Schreibende Aktionen benötigen klare Freigaben und Audit-Trails.
- Zu viele überlappende Tools machen Entscheidungen unzuverlässiger.
Vertiefung · für FortgeschritteneSichere Tool-Nutzung in einer Anwendung
Der Server bleibt die Instanz, die Berechtigungen und tatsächliche Aktionen kontrolliert.
Modell schlägt vor