Was ist Function Calling (Tool Use)?

Function Calling: Definition

Sprachmodelle kennen nur ihr Trainingswissen und die mitgelieferten Texte. Um aktuelle Daten abzufragen oder Aktionen auszulösen, brauchen sie Werkzeuge. Function Calling ist der Mechanismus dafür: Die Entwickler beschreiben dem Modell verfügbare Funktionen mit Namen, Zweck und Parametern, meist als JSON-Schema.

Das Modell führt die Funktion nicht selbst aus. Es entscheidet nur, welche Funktion mit welchen Werten sinnvoll ist, und liefert einen strukturierten Aufruf. Die Software prüft ihn, führt ihn aus und gibt das Ergebnis zurück. Diese Trennung ist wichtig für Sicherheit und Kontrolle.

So läuft ein Aufruf ab

Ein Kunde fragt im Chat: „Wann kommt meine Bestellung?“ Das Modell erkennt, dass es dafür die Funktion „Bestellstatus abrufen“ braucht, und erzeugt den Aufruf samt Bestellnummer aus dem Gespräch. Die Anwendung ruft das Warenwirtschaftssystem ab und liefert den Status zurück. Daraus formuliert das Modell die Antwort.

Mehrere Funktionen können nacheinander oder parallel genutzt werden. Auf diesem Prinzip beruhen KI-Agenten. Dasselbe Verfahren dient auch dazu, Ausgaben in festem Format zu erhalten, etwa Felder aus einer E-Mail als JSON, die direkt in eine Datenbank geschrieben werden. Das spart fehleranfällige Textauswertung.

Praxis­bei­spiel: Assistent für den Möbelhandel

Ein Möbelhändler setzt einen Assistenten auf seiner Website ein. Dieser hat drei Funktionen: Verfügbarkeit eines Artikels prüfen, Bestellstatus abrufen und eine Rückrufbitte im Ticketsystem anlegen. Fragen beantwortet er mit echten Daten aus den Systemen statt mit Vermutungen. Der Kunde bekommt so eine Auskunft, die zum aktuellen Lagerstand passt, und Mitarbeitende werden von Routineanfragen entlastet.

Lesende Funktionen laufen automatisch, die Rückrufbitte wird erst nach Bestätigung des Kunden angelegt. Der Assistent sieht nur die Daten, die zum angemeldeten Kunden gehören. Jeder Aufruf wird protokolliert, damit sich später nachvollziehen lässt, was passiert ist. Neue Funktionen lassen sich später ergänzen, ohne den Assistenten neu aufzubauen.

Sicherheit, Grenzen und Umsetzung

Das Modell kann falsche oder manipulierte Parameter liefern, etwa wenn ein Dritter per Prompt Injection Anweisungen in Eingaben versteckt. Deshalb gilt: Argumente validieren, Rechte des jeweiligen Nutzers anwenden, folgenreiche Aktionen freigeben lassen und Aufrufe begrenzen. Außerdem sollten Funktionen klar und eindeutig beschrieben sein.

Nano Concepts entwirft Funktionen, Schnittstellen und Berechtigungen so, dass KI-Assistenten nützlich, aber kontrolliert auf Ihre Systeme zugreifen. Dazu gehören ein sauberer Zuschnitt der Funktionen, eine Prüfschicht zwischen Modell und System und Tests mit typischen sowie bewusst fehlerhaften Eingaben, bevor der Assistent produktiv geht.

• Funktionen klein, eindeutig benannt und gut dokumentiert halten
• Parameter vor der Ausführung serverseitig prüfen
• Rechte des angemeldeten Nutzers verwenden, nicht pauschale Systemrechte
• Schreibende Aktionen bestätigen lassen
• Aufrufe protokollieren und Limits setzen