Function Calling / Tool Use

Agenten & Fortgeschrittenes

Function Calling / Tool Use — KI ruft Programme auf (z. B. Suche, Rechner, Datenbank) während sie antwortet.

Beispiel

Wie ist das Wetter in Wien? — die KI ruft eine Wetter-API auf und antwortet mit echten Daten.

Verwandt: KI-Agent · MCP (Model Context Protocol) · API

Function Calling (auch Tool Use genannt) ist eine Fähigkeit von großen Sprachmodellen, externe Werkzeuge wie Datenbanken, APIs oder Rechenprogramme gezielt aufzurufen, um Aufgaben zu lösen, die das Modell allein nicht bewältigen kann.

In einfachen Worten

Stellen Sie sich einen sehr klugen Assistenten vor, der aber keinen Zugriff auf das Internet, einen Taschenrechner oder Ihr Firmenverzeichnis hat. Er kann gut reden, aber nicht rechnen oder aktuelle Daten abrufen. Function Calling gibt diesem Assistenten nun die Erlaubnis, genau diese Werkzeuge zu benutzen. Sagt der Chef: „Finde mir den Umsatz von letzter Woche“, dann ruft der Assistent nicht nur sein Wissen auf, sondern greift aktiv auf die Buchhaltungssoftware zu, holt die Zahlen und präsentiert sie. Das Modell entscheidet selbstständig, wann es welches Werkzeug benötigt – ähnlich wie ein Mitarbeiter, der weiß, wann er zum Telefon greifen oder in der Akte blättern muss.

Was bedeutet das technisch

Technisch gesehen erweitert Function Calling ein Sprachmodell um die Fähigkeit, strukturierte Befehle (meist im JSON-Format) zu generieren, die einen externen Dienst aufrufen. Der Ablauf ist immer gleich: Der Nutzer stellt eine Anfrage. Das Modell analysiert diese und erkennt, dass es zur Beantwortung ein externes Werkzeug benötigt. Statt einer Textantwort erzeugt es einen Funktionsaufruf – zum Beispiel get_weather(location="Berlin"). Die Anwendungssoftware führt diesen Aufruf dann tatsächlich aus (etwa durch einen API-Aufruf an einen Wetterdienst) und gibt das Ergebnis an das Modell zurück. Das Modell integriert dieses Ergebnis in seine finale Antwort.

Entscheidend ist, dass das Modell nicht selbst die Funktion ausführt. Es sagt nur, welche Funktion mit welchen Parametern aufgerufen werden soll. Die Ausführung übernimmt die umgebende Software. Das Modell definiert vorab, welche Funktionen überhaupt zur Verfügung stehen – etwa über eine Liste von Funktionssignaturen mit Namen, Parametern und Beschreibungen. Diese Liste legt der Entwickler fest. Das Modell wählt dann aus dieser Liste die passende Funktion aus. Ohne diese Definition kann das Modell keine Werkzeuge nutzen.

Warum es für KMU relevant ist

Für kleine und mittlere Unternehmen eröffnet Function Calling völlig neue Automatisierungsmöglichkeiten, ohne dass Sie selbst eine KI entwickeln müssen. Ein typischer Anwendungsfall ist der Chatbot für den Kundenservice. Statt nur Standardfragen zu beantworten, kann er direkt im CRM-System nachschlagen, ob eine Bestellung bereits versandt wurde, oder im Lagerbestand prüfen, ob ein Artikel verfügbar ist. Der Kunde bekommt sofort eine verbindliche Antwort, ohne dass ein Mitarbeiter manuell nachschauen muss.

Ein weiteres Beispiel: In der Buchhaltung kann ein KI-Assistent Rechnungen prüfen, indem er die Daten mit dem ERP-System abgleicht. Sagt der Nutzer „Zeige mir alle offenen Posten von Müller GmbH“, ruft das Modell die entsprechende Funktion im ERP auf und listet die Ergebnisse auf. Das spart Zeit und reduziert Fehler durch manuelle Eingaben. Auch im Vertrieb ist das nützlich: Ein Vertriebsmitarbeiter fragt „Welche Kunden haben im letzten Quartal mehr als 10.000 Euro Umsatz gemacht?“, und die KI greift direkt auf die Vertriebsdatenbank zu – ohne dass der Mitarbeiter eine komplexe SQL-Abfrage schreiben muss.

Die Kosten sind überschaubar: Sie benötigen lediglich ein Sprachmodell, das Function Calling unterstützt (wie GPT-4 oder Claude), und eine Schnittstelle zu Ihren bestehenden Systemen. Das größte Risiko liegt in der Sicherheit: Das Modell könnte versehentlich sensible Daten abfragen oder unerwünschte Aktionen auslösen. Daher sollten Sie die verfügbaren Funktionen streng kontrollieren und nur Lese-Zugriff auf kritische Systeme erlauben. Ein weiteres Risiko sind Halluzinationen: Das Modell könnte eine Funktion aufrufen, obwohl die Anfrage gar kein externes Werkzeug erfordert. Das lässt sich durch klare Funktionsbeschreibungen und eine Begrenzung der Aufrufe pro Anfrage minimieren.

Verwandte Begriffe

• KI-Agent – Ein System, das Function Calling nutzt, um eigenständig mehrere Schritte auszuführen.
• API – Die technische Schnittstelle, über die das Modell externe Werkzeuge anspricht.
• Prompt Engineering – Die Kunst, Anfragen so zu formulieren, dass das Modell die richtigen Funktionen auswählt.
• RAG (Retrieval Augmented Generation) – Eine verwandte Technik, bei der das Modell auf Wissensdatenbanken zugreift, statt auf Funktionen.
• JSON – Das Datenformat, in dem Funktionsaufrufe meist strukturiert werden.