Agent oder Werkzeug: wann ein LLM agentisch arbeitet

Die Grenze verläuft an einer einzigen Frage: Wer entscheidet über den nächsten Schritt? Solange euer Code den Ablauf vorgibt und das Modell darin einzelne Aufgaben erledigt, nutzt ihr ein LLM als Werkzeug in einem Workflow. Sobald das Modell selbst bestimmt, welche Schritte es geht und welche Werkzeuge es dafür aufruft, wird der Einsatz agentisch.

Beide Varianten sind legitim und nützlich. Sie unterscheiden sich aber stark in Aufwand, Vorhersagbarkeit und Risiko, deshalb lohnt sich ein klarer Blick auf die Grenze.

Das LLM als Werkzeug im Workflow

Im Workflow steht der Ablauf vorher fest. Ihr legt die Schritte und ihre Reihenfolge in Code fest und ruft das Modell an klar umrissenen Stellen für genau eine Aufgabe auf. Das Modell übersetzt Sprache in ein Ergebnis, der umgebende Code behält die Kontrolle über den Weg.

Typische Aufgaben, die ein Modell in einem Workflow übernimmt:

• Einen Freitext klassifizieren, etwa eine Anfrage nach Thema und Dringlichkeit einsortieren.
• Aus einem Dokument bestimmte Felder herauslesen und strukturiert zurückgeben.
• Einen langen Text zusammenfassen oder in eine andere Form bringen.
• Aus einer Eingabe einen Wert ableiten, den der nächste Schritt weiterverarbeitet.

Der Ablauf ist so geordnet, dass ihr ihn als Diagramm zeichnen könnt. Jeder Schritt hat einen festen Platz, das Modell füllt ihn aus. Auch mehrere Modellaufrufe hintereinander bleiben ein Workflow, solange euer Code die Kette steuert.

Solche Muster, etwa Prompt-Chaining oder das Routing einer Anfrage zum passenden Pfad, fasst Anthropic in Building Effective Agents unter dem Begriff Workflows zusammen: LLMs und Werkzeuge, die über vorgegebene Code-Pfade orchestriert werden.

Agentisch: das Modell führt selbst

Agentisch wird es, sobald ihr dem Modell ein Ziel gebt statt einer Schrittliste. Das Modell entscheidet dann selbst, welche Schritte nötig sind, ruft die passenden Werkzeuge auf, liest deren Ergebnisse und plant den nächsten Zug. Es arbeitet in einer Schleife, bis es das Ziel für erreicht hält oder eine Grenze greift.

Der Weg dorthin steht vorher nicht fest. Bei derselben Aufgabe kann das Modell heute drei und morgen fünf Schritte gehen. Es wählt seine Werkzeuge nach Lage, geleitet von einem Ziel statt von einem Drehbuch.

• Eine Rechercheaufgabe, bei der das Modell selbst entscheidet, welche Quellen es abfragt und wann es genug weiß.
• Ein Support-Agent, der je nach Anliegen unterschiedliche Systeme abfragt und passende Aktionen auslöst.
• Ein Coding-Agent, der Dateien liest, Änderungen vornimmt, Tests laufen lässt und auf Fehler reagiert.

Auch OpenAI zieht in seinem Leitfaden zum Bauen von Agenten dieselbe Linie: Ein Workflow ist eine feste Abfolge von Schritten, ein Agent erledigt die Aufgabe eigenständig in eurem Namen.

Ein Workflow folgt eurem Plan, ein Agent macht sich seinen eigenen.

Woran ihr es erkennt

Vier Fragen trennen die beiden Welten zuverlässig. Je mehr davon in Richtung Modell zeigen, desto agentischer ist euer Einsatz.

1. 01

   Wer steuert den Ablauf?

   Gibt euer Code die Reihenfolge der Schritte vor, ist es ein Workflow. Entscheidet das Modell zur Laufzeit, wie es weitergeht, ist es agentisch.

2. 02

   Stehen die Schritte vorher fest?

   Ein fester, zeichenbarer Ablauf spricht für ein Werkzeug im Workflow. Eine offene Zahl von Schritten je nach Situation spricht für einen Agenten.

3. 03

   Wählt das Modell seine Werkzeuge selbst?

   Ruft euer Code die Werkzeuge in fester Folge auf, bleibt das Modell ein Werkzeug. Wählt das Modell aus mehreren Optionen nach eigener Einschätzung, handelt es agentisch.

4. 04

   Gibt es eine Schleife mit Abbruchbedingung?

   Ein einzelner Aufruf je Schritt ist ein Workflow. Eine Schleife, in der das Modell weiterarbeitet, bis ein Ziel erreicht ist, ist der Kern eines Agenten.

Die meisten echten Systeme liegen irgendwo dazwischen. Ein Workflow kann an einer Stelle einen kleinen agentischen Schritt enthalten, und ein Agent kann feste Teilabläufe nutzen. Die Frage ist also weniger ein Entweder-oder als ein Wie viel.

Warum die Unterscheidung zählt

Mit der Autonomie des Modells steigen Nutzen und Aufwand zugleich. Ein Agent löst Aufgaben, die sich vorher nicht in feste Schritte gießen lassen. Dafür wird er schwerer vorhersehbar, aufwändiger zu testen und teurer im Betrieb.

• Vorhersagbarkeit: Ein Workflow liefert bei gleicher Eingabe denselben Weg. Ein Agent kann variieren, das erschwert Reproduktion und Fehlersuche.
• Kosten: Jede Runde in der Schleife kostet Modellaufrufe. Ein Agent mit vielen Schritten verbraucht ein Vielfaches eines einzelnen Aufrufs.
• Testbarkeit: Feste Schritte lassen sich einzeln prüfen. Offene Abläufe sichert ihr über Szenarien, Beobachtung und Leitplanken ab.
• Risiko: Ein Agent, der Werkzeuge mit echten Folgen bedient, braucht minimale Rechte und eine Freigabe vor kritischen Aktionen.

Welche Schutzmaßnahmen agentische Systeme brauchen, von minimalen Rechten bis zur menschlichen Freigabe, haben wir in LLM-Pentesting: die neuen Angriffsflächen beschrieben.

Was das für euer Projekt heißt

Beginnt mit dem einfachsten Aufbau, der eure Aufgabe löst. Lässt sich der Ablauf vorab festlegen, ist ein Workflow mit dem LLM als Werkzeug die robustere und günstigere Wahl. Erst wenn die Aufgabe echte Entscheidungen zur Laufzeit verlangt, lohnt sich der Schritt zum Agenten.

Diese Wahl folgt dem Bedarf, nicht der Mode. Viele Aufgaben, die als Agent angekündigt werden, sind in Wahrheit ein sauberer Workflow mit ein, zwei Modellaufrufen.

Warum gerade bei Agenten das Vorgehen über den Erfolg entscheidet, lest ihr in Warum KI-Agenten am Prozess scheitern. Wie wir Schritt für Schritt zu einem Agenten kommen, steht in Der peercode-Weg zum Agenten. Und ob sich KI für eure Aufgabe überhaupt lohnt, klärt KI ohne Hype: drei Fragen, bevor ihr ein Modell einsetzt.