KI-Workflows mit Multi-Agenten-Frameworks erstellen

Die meisten Entwickler, die KI-Agenten bauen wollen, beginnen mit einer einzigen großen Sprachmodell-Schleife – einem System-Prompt und vielleicht einem Tool – und für kleine Aufgaben reicht das oft aus.

Sobald jedoch mehr Struktur benötigt wird, gerät das System ins Wanken: Die Ausgaben werden unvorhersehbar, Workflows schwer zu debuggen und es werden Tokens für Wiederholungen statt für Fortschritt verbraucht.

Mit Multi-Agent-Workflows kannst du KI-Agenten erstellen, die wie ein Team mit klaren Rollen agieren und nachvollziehbar Entscheidungen treffen, um gemeinsam ein Ziel zu erreichen.

Was ist ein Multi-Agenten-Framework?

Ein Multi-Agent-Framework ist die Infrastruktur, mit der du mehrere KI-Agenten koordinierst, betreibst und verwaltest.

Es regelt, wie Agenten miteinander kommunizieren und wie Aufgaben zwischen ihnen weitergegeben werden.

Wenn du mit Multi-Agent-Systemen arbeitest, sorgt das Framework dafür, dass sie funktionieren.

Im Kern verwandelt es rohe Large Language Models (LLMs) in spezialisierte Agenten, jeder mit einer eigenen Rolle und einem vorhersehbaren Ablauf.

Anstatt die Orchestrierungslogik selbst zu schreiben, bietet das Framework Struktur, Kontrolle und Wiederholbarkeit.

Multi-Agenten-Frameworks: Zentrale Konzepte

Wie funktionieren Multi-Agenten-Frameworks?

Multi-Agent-Frameworks geben vor, wie Agenten ausgelöst werden, wie sie Daten weitergeben und wie das System den Fortschritt verfolgt.

Sie liefern die Bausteine, um Agenten auch bei wachsender Komplexität zu koordinieren und in realen Anwendungen nutzbar zu machen.

Ein Beispiel ist der Einsatz eines Multi-Agent-Setups für einen WhatsApp-Chatbot. Hier können verschiedene Agenten Aufgaben wie Buchungen, Rückerstattungen oder Verifizierungen übernehmen – im Hintergrund, ohne dass ein einziger, monolithischer Bot alles erledigen muss.

Agenten werden als aufrufbare Komponenten im System registriert

Bevor ein Agent etwas tun kann, muss das Framework wissen, dass es ihn gibt. Das heißt, dem System werden Name, Aufgabenbereich und verfügbare Tools oder Informationen des Agenten mitgeteilt.

In den meisten Frameworks geschieht dies über eine Konfigurationsdatei oder Code, in dem du die Rolle jedes Agenten und seine Aktivierung definierst. Zum Beispiel könntest du dem System sagen:

„Das ist der Planer. Er liest die Nutzereingabe und entscheidet, was als Nächstes passiert.“
„Das ist der Verifizierer. Er nimmt Nutzerdaten und gibt booking_id und Nutzerinformationen zurück.“

Nach der Registrierung kann das Framework diese Agenten beim Namen „aufrufen“, also weiß es, wie jeder Agent ausgeführt wird, wenn er im Workflow an der Reihe ist.

Der Routing-Agent entscheidet, welcher Agent als nächstes ausgeführt wird

Ein Planer-Agent oder eine Controller-Funktion übernimmt das Routing der KI-Agenten. Sie betrachtet die letzte Bot-Antwort, den bisherigen Gesprächsverlauf und manchmal die ursprüngliche Nutzereingabe, um zu entscheiden, was als Nächstes passieren soll.

Manche Planer arbeiten prompt-basiert – sie nehmen eine Systemnachricht und geben den Namen des nächsten auszuführenden Agenten aus.

Andere nutzen festgelegte Logik oder Flussdiagramme, je nach KI-Agenten-Framework, mit dem du arbeitest.

Das Framework nimmt diese Ausgabe und ruft damit den nächsten Agenten auf. Der Router entscheidet, wer die Aufgabe übernimmt, nicht wie sie erledigt wird.

Daten werden per Nachricht zwischen Agenten übergeben

Agenten teilen sich keinen gemeinsamen Speicher. Wenn ein Agent fertig ist, wird sein Output in eine Nachricht gepackt – meist ein Dictionary oder JSON-Objekt – und als Input an den nächsten Agenten weitergegeben.

Das Framework übernimmt die Übergabe. Je nach Systemstruktur wird die Nachricht entweder im gemeinsamen Speicher abgelegt oder direkt an das Eingabe-Interface des nächsten Agenten übergeben.

Nachrichten enthalten oft mehr als nur den Inhalt:

• Wer sie gesendet hat (Agent oder Nutzer)
• Woher sie im Workflow stammt
• Wie sie verwendet werden soll (z. B. Auslöser, Input, Entscheidung)
• Optionale Metriken wie Token-Anzahl oder Zeitstempel

Dieser Kontext hilft dem System, Aufgaben sauber zuzuordnen und hält die Agenten voneinander unabhängig.

Die Ausführung wird über Workflow-Status und Trigger verfolgt

Das Framework merkt sich, was bisher passiert ist – welche Agenten liefen, was sie zurückgegeben haben und was noch aussteht. Das wird in einem Statusobjekt gespeichert, das nach jedem Schritt aktualisiert wird.

Trigger bestimmen, wie es weitergeht. Sie nutzen Output-Werte oder Bedingungen, um den Ablauf zu verzweigen.

So kann das System voranschreiten, ohne dass jede Logik in jedem Agenten fest verdrahtet werden muss. Der Status steuert den Workflow, nicht die Agenten selbst.

Wichtige Vorteile der Nutzung von Multi-Agenten-Frameworks

Logik skalieren, ohne einen einzelnen Agenten zu überlasten

Ein einzelner KI-Agent kann nur begrenzt Aufgaben übernehmen, bevor die Prompts, Tools und Verantwortlichkeiten unübersichtlich werden. Multi-Agent-Frameworks ermöglichen es, die Logik auf spezialisierte Agenten mit klaren Aufgaben zu verteilen.

Statt einen Agenten zu überfordern, kannst du einzelne Schritte – wie Recherche, Validierung oder Ausführung – separaten Agenten zuweisen und das System schrittweise erweitern.

Zusammenarbeit von Agenten mit voller Transparenz debuggen

Wenn KI-Agenten zusammenarbeiten, sind Fehlerquellen oft schwer zu finden. Frameworks zeigen, was jeder Agent erhalten, zurückgegeben und wo er gestoppt hat.

Du musst nicht raten, was schiefgelaufen ist – du prüfst die Übergaben und behebst das Problem direkt. Diese Transparenz macht die Zusammenarbeit von KI-Agenten beherrschbar.

Agenten in verschiedenen Workflows wiederverwenden

Wenn ein Agent funktioniert, nutze ihn mehrfach. Frameworks erlauben es, denselben Agenten in verschiedenen Flows einzusetzen, ohne ihn neu zu schreiben. Das sorgt für Konsistenz und beschleunigt das Testen.

Ein Validierungsagent, der Nutzereingaben oder Authentifizierung prüft, kann zum Beispiel sowohl in Kundenservice-Chatbots als auch in Buchungs-Chatbots eingesetzt werden – überall, wo die gleiche Logik gebraucht wird.

Fehler und Wiederholungen automatisch behandeln

Wenn ein Agent scheitert, kann das Framework ihn erneut versuchen, überspringen oder weitermachen. Du musst diese Logik nicht selbst schreiben.

Eingebaute Fallbacks machen Workflows zuverlässiger, ohne zusätzlichen Aufwand – diese Zuverlässigkeit ist entscheidend für reale Systeme.

Agenten-Flows bauen, die leicht anpassbar sind

Wenn du Aufgaben auf mehrere Agenten verteilst, musst du nicht das ganze System umbauen, sobald sich etwas ändert.

Du kannst einen Planer aktualisieren, ohne die Ausführung zu verändern, oder das Verhalten eines Agenten anpassen, ohne den Rest neu zu schreiben.

Diese Flexibilität zahlt sich aus – Salesforce berichtet, dass Teams mit agentischer KI jede Woche 11 Stunden pro Mitarbeiter sparen, unter anderem dank der Anpassungsfähigkeit der Workflows.

Die 5 besten Multi-Agenten-Frameworks

Die Wahl des Multi-Agent-Frameworks hängt davon ab, was du bauen willst und wie viel Kontrolle du über das Verhalten, die Kommunikation und die Fehlerbehandlung der Agenten brauchst.

Die besten Frameworks bieten unterschiedliche Schwerpunkte – manche sind ideal für strukturierte Workflows, andere bieten mehr Flexibilität auf Kosten der Übersichtlichkeit.

Du solltest ein Framework wählen, das zu den Anforderungen deines Teams und den geplanten Systemerweiterungen passt.

1. Botpress

Botpress ist eine visuelle Entwicklungsplattform zum Erstellen von KI-Agenten, die über Schritte, Rollen und Kanäle hinweg koordiniert werden können.

Statt Logik im Code zu verdrahten, definierst du das Verhalten der Agenten mit Flows, Speicher, Bedingungen und Tool-Aufrufen.

Multi-Agenten-Verhalten basiert auf Anweisungen, Workflows und externen Tools. Jeder Knoten in einem Botpress-Flow ist eine fokussierte Einheit mit eigenen Anweisungen und Gültigkeitsbereich.

Du kannst die Entscheidungsfindung auf mehrere autonome und statische Knoten verteilen, Validierungsschichten hinzufügen oder Nutzereingaben über Tool-basierte Entscheidungslogik leiten, statt alles in einem Schritt zu erledigen.

Der Speicher ist auf jeden Flow begrenzt, sodass Agenten nur das nutzen, was sie brauchen. Eingaben und Ausgaben sind klar definiert, und Tool-Aufrufe können direkt über integrierte Integrationen hinzugefügt werden.

Wichtige Funktionen

• Visuelle Agenten-Orchestrierung mit Flows und Knoten
• Begrenzter Speicher und Variablenkontrolle zwischen Knoten
• Mehrstufiger Speicher, Fallback-Logik und Wiederholungen
• Tool-Nutzung über API-Aufrufe, Webhooks und Funktions-Inputs

2. LangChain

LangChain ist ein entwicklerorientiertes Framework zum Erstellen von LLM-basierten Anwendungen, indem Prompts, Tools und Speicher miteinander verknüpft werden.

Ursprünglich diente es dazu, LLM-Aufrufe mit Tools wie Suche und Rechnern zu strukturieren, entwickelte sich aber zu einem umfangreichen Ökosystem.

Mal lag der Fokus auf „Agenten“, dann auf „Assistenten“, dann auf „Runnables“. Das Ergebnis ist ein mächtiges Toolkit, das fast alles kann, aber oft Zeit zur Einarbeitung erfordert.

Du kannst Toolkits zuweisen und Routing-Logik über Agenten hinweg aufbauen. Die Stärke liegt in der Modularität – Komponenten sind wiederverwendbar, kombinierbar und gut mit externen APIs integrierbar.

Allerdings schreibst du meist mehr Verbindungs-Code als erwartet. Und da sich die Abstraktionen schnell ändern, solltest du prüfen, ob deine Methode noch aktuell ist.

Wichtige Funktionen

• Modulares Verketten von Prompts, Tools und Speicher
• Integration mit LLMs, Vektor-Datenbanken und APIs
• Optionale Nachverfolgung und Auswertungen mit LangSmith

3. CrewAI

CrewAI erleichtert den Aufbau von Multi-Agent-Workflows, bei denen jeder Agent eine definierte Rolle und Aufgabe hat. Du erstellst ein Team, weist Ziele zu und die Agenten koordinieren sich über einen gemeinsamen Manager.

Es ist einer der schnellsten Wege, Agentenzusammenarbeit zu modellieren, ohne Orchestrierungslogik selbst zu schreiben.

Ideal für Setups wie Planer–Ausführer-Paare, Recherche–Reviewer-Flows oder jede teamorientierte Aufgabe, bei der die Verantwortlichkeiten klar aufgeteilt sind.

Mit wachsender Komplexität wird die Abstraktion jedoch enger. Es gibt weniger Flexibilität, wann und wie Agenten ausgeführt werden, und Verhaltensanpassungen erfordern oft, die Standardvorgaben des Frameworks zu verlassen.

Wichtige Funktionen

• Rollenbasierte Agenten-Konfiguration mit Namen, Zielen und Speicher
• Unterstützt sequentielle und parallele Ausführung von Agents
• Gemeinsamer Crew-Speicher für Agentenzusammenarbeit
• Einfache Integration mit Tools, Funktionen und eigenen Prompts

4. AutoGPT

AutoGPT war das erste Projekt, das zeigte, wie ein GPT-Chatbot ein Ziel erhält und dann eigenständig plant, denkt, recherchiert und ausführt – ohne ständige menschliche Eingaben.

Du definierst das Ziel, und AutoGPT durchläuft eigenständig Denkschritte, erstellt Unterziele, ruft Tools auf und passt seine Strategie laufend an.

Das war ein großer Schritt, um agentisches Verhalten autonom und dynamisch wirken zu lassen. Für Präzision ist es aber nicht gemacht.

Die Aufgabenschleife ist anfällig, und Agenten neigen dazu, denselben Plan immer wieder zu schreiben oder sich in irrelevanten Unteraufgaben zu verlieren.

Du kannst Speicher, Tools und APIs einbinden – aber das Zusammensetzen führt oft zu unvorhersehbaren Abläufen, die schwer zu debuggen oder zu steuern sind.

Wichtige Funktionen

• Zielorientierter Agent mit Selbst-Prompting und Aufgabenplanung
• Automatische Unteraufgabenerstellung und Ausführungsschleife
• Unterstützt Tool-Nutzung über Plugins und API-Aufrufe
• Erweiterbar mit eigenen Skripten, Funktionen und Integrationen

5. Autogen

Autogen ist ein Open-Source-Framework von Microsoft, das sich auf Multi-Agenten-Konversationen konzentriert, bei denen Agenten über strukturierte, rundenbasierte Nachrichten interagieren.

Es eignet sich besonders, wenn du jede Interaktion kontrollieren willst, etwa in Planungs–Ausführungs-Schleifen oder Human-in-the-Loop-Systemen.

Autogen überzeugt durch Transparenz: Du kannst Funktionen mitten im Gespräch einbinden, Entscheidungen über eigene Logik steuern und genau nachvollziehen, was jeder Agent gesagt hat und warum.

Aber das Skalieren erfordert Arbeit. Die Nachrichtenorchestrierung ist flexibel, aber nicht abstrahiert – du verwaltest weiterhin selbst die Historien, Agentenkonfigurationen und die Logik der einzelnen Schritte.

Für Forschungszwecke, kontrollierte Tests oder reproduzierbares Agentenverhalten ist es eines der präzisesten Frameworks überhaupt.

Wichtige Funktionen

• Framework für rundenbasierte Kommunikation zwischen mehreren Agenten
• Unterstützt menschliche Beteiligung und Agenten mit Funktionsaufrufen
• Transparente Nachrichtenverfolgung und Möglichkeit zur Einbindung eigener Logik

So entwickeln Sie mit einem Multi-Agenten-Framework

Am einfachsten startest du, indem du einen echten Arbeitsablauf auswählst – etwas, das bereits zu komplex für einen einzelnen Agenten ist – und ihn in ein paar einfache Teile zerlegst.

Denk zum Beispiel an einen Leadgenerierungs-Chatbot, einen Buchungsprozess oder jeden Ablauf, bei dem Logik, Überprüfung und Aktionen miteinander vermischt werden.

Gib jedem Schritt einen eigenen Agenten und verbinde sie dann mit den Routing- und Nachrichtentools des Frameworks.

Schritt 1: Finde heraus, wo deine Ein-Agenten-Logik an ihre Grenzen stößt

Suche in deinem Bot oder System nach Stellen, an denen es unübersichtlich wird – lange Prompts oder verkettete Tool-Aufrufe, die wie angeflanscht wirken. Das ist dein Einstiegspunkt. Hier ein paar typische Beispiele, die leicht zu erkennen sind:

1. Ein Rückerstattungsprozess, der Nutzereingaben auswertet, die Berechtigung prüft, die Rückzahlung veranlasst und die Bestätigung verschickt – alles in einer Schleife
2. Eine Onboarding-Sequenz, die Daten sammelt, Formulare prüft, Nutzertypen zuweist und E-Mails auslöst – alles in einer einzigen Prompt-Kette

Statt das gesamte System neu zu gestalten, isolierst du einfach den Ablauf, der bereits Schwächen zeigt.

Schritt 2: Definiere die Rollen, bevor du das Framework nutzt

Sobald du die unübersichtliche Logik gefunden hast, teile sie in echte Verantwortlichkeiten auf.

Wenn etwas Eingaben prüft, ist das ein Agent. Wenn etwas eine externe Aktion ausführt, ist das ein anderer.

Schreib es in einfachen Worten auf – gerade so detailliert, dass klar wird, wo die Übergaben stattfinden.

Wenn alles vor dir liegt, erkennst du, was wirklich getrennt werden muss und was zusammengefasst werden kann. So bekommst du auch ein Gefühl dafür, welches Framework du brauchst.

Jede Rolle sollte so formuliert sein, dass du sie einzeln testen könntest.

Schritt 3: Wähle das passende Framework

Wähle eine Plattform, die zu deinem Arbeitsstil passt.

• Visuell: Botpress, wenn du node-basierte Abläufe und einen begrenzten Speicherbereich möchtest.
• Code-orientiert: LangChain oder CrewAI, wenn du Logik gerne in Python programmierst.

Das Framework bestimmt, wie Agenten registriert, ausgelöst und miteinander verbunden werden.

Schritt 4: Baue den ersten Workflow

Jetzt werden die Rollen zu Agenten. Definiere sie im Framework – gib jedem einen Namen, seine Aufgabe und den Zugang zu den benötigten Tools oder APIs.

Sobald sie eingerichtet sind, verbinde sie. Nutze das Routing des Frameworks, um von einem Agenten zum nächsten zu wechseln.

Das Ziel ist, einen vollständigen Workflow von Anfang bis Ende zum Laufen zu bringen, bei dem die Agenten klar abgegrenzt sind.

Schritt 5: Starte das System und prüfe jede Übergabe

Löse den kompletten Workflow aus – von Anfang bis Ende – und verfolge, was passiert. Beobachte, was jeder Agent erhält, was er zurückgibt und ob der Ablauf reibungslos zwischen ihnen wechselt.

Wenn ein Agent mit verwirrenden Eingaben konfrontiert wird, hast du die Zuständigkeiten vermutlich falsch abgegrenzt. Wenn die Logik unerwartet springt, muss dein Routing angepasst werden.

Sobald die Übergaben sauber laufen, hast du ein funktionierendes System.

Best Practices für den Einsatz von Multi-Agenten-Frameworks

Die Wahl des Frameworks ist nur der Anfang. Wichtiger ist, wie du die Workflows entwirfst, testest und verwaltest, die du damit baust.

Je modularer und autonomer KI-Systeme werden, desto schwieriger wird die Nachvollziehbarkeit.

Halte die Kernlogik zentral

Verteile wichtige Entscheidungen nicht auf mehrere Agenten. Es ist einfacher zu warten und zu testen, wenn die zentrale Logik an einem Ort bleibt, statt auf lose verbundene Teile verteilt zu sein.

Definiere Eingaben und Ausgaben der Agenten im Voraus

Jeder Agent sollte eine klar definierte Schnittstelle haben – was er erhält und was er zurückgibt. So lassen sich Agenten leichter austauschen oder in neue Workflows einbinden, ohne die Logik zu zerstören.

Protokolliere jede Nachricht zwischen den Agenten

Wenn du nicht sehen kannst, was die Agenten untereinander austauschen, kannst du nichts debuggen. Stelle sicher, dass jede Eingabe und Ausgabe mit genügend Kontext protokolliert wird, um den Ablauf zurückverfolgen zu können.

Nutze begrenzten Speicher, um Störungen und Kosten zu reduzieren

Gib jedem Agenten nur den Kontext, den er wirklich braucht. Vollständiger Speicherzugriff führt zu aufgeblähten Prompts, höherem Tokenverbrauch und unvorhersehbarem Verhalten bei Agenten, die eigentlich fokussiert arbeiten sollten.

Beginnen Sie mit der Entwicklung von KI, die zusammenarbeiten kann

Die meisten Systeme scheitern, sobald echte Koordination nötig wird. Mit Botpress hast du Kontrolle darüber, wie Agenten Aufgaben übergeben – mit klaren Rollen und Logik kannst du testen und nachvollziehen.

Außerdem kannst du Daten sauber zwischen Abläufen weitergeben. Jeder Schritt lässt sich mit mehrstufigen Logs nachverfolgen, die zeigen, welches Tool aufgerufen wurde, warum es lief und wie es im Workflow verwendet wurde.

Statt Prompt-Tuning und Halluzinationskontrolle konzentrierst du dich auf echte Funktionalität – du baust Agenten, die sich wie Software verhalten.

Starten Sie noch heute – kostenlos.

FAQs

Woran erkenne ich, ob mein KI-Projekt wirklich ein Multi-Agenten-Framework braucht oder ob ein einzelner Agent ausreicht?

Dein KI-Projekt benötigt wahrscheinlich ein Multi-Agenten-Framework, wenn die Prompts oder Workflows deines einzelnen Agenten zu lang oder schwer zu debuggen werden, besonders wenn mehrere unterschiedliche Aufgaben bearbeitet werden. Für einfachere Anwendungsfälle wie reine Q&A- oder Einzweck-Bots reicht oft ein einzelner Agent.

Ist der Einsatz eines Multi-Agenten-Frameworks nur für große Unternehmen sinnvoll oder auch für kleine Startups geeignet?

Der Einsatz eines Multi-Agenten-Frameworks ist nicht nur für große Unternehmen sinnvoll – auch kleine Startups profitieren davon, weil selbst kleinere Projekte leichter zu debuggen sind, wenn komplexe Aufgaben auf spezialisierte Agenten verteilt werden, statt alles in eine große, schwer wartbare Schleife zu packen.

Heißt die Nutzung eines Multi-Agenten-Systems, dass ich alles in einzelne Agenten aufteilen muss, oder kann ich Einzel- und Multi-Agenten-Logik mischen?

Die Nutzung eines Multi-Agenten-Systems bedeutet nicht, dass du alles in einzelne Agenten aufteilen musst; du kannst einfache Aufgaben weiterhin mit Einzel-Agenten-Logik lösen und Multi-Agenten-Orchestrierung für komplexe Abläufe reservieren.

Worin unterscheidet sich ein Multi-Agenten-System davon, einfach mehrere APIs oder Microservices in meiner Anwendung zu nutzen?

Ein Multi-Agenten-System unterscheidet sich von der Nutzung mehrerer APIs oder Microservices, weil es spezialisierte KI-Agenten mit eigenen Rollen und Entscheidungsfähigkeiten koordiniert, die strukturierte Nachrichten und Zustände austauschen, während APIs und Microservices einzelne Funktionen übernehmen, aber keine komplexen Abläufe eigenständig orchestrieren.

Wie unterscheiden sich die Kosten für Multi-Agenten-Systeme im Vergleich zum Betrieb eines einzelnen großen LLM?

Die Kosten für Multi-Agenten-Systeme können niedriger sein als beim Betrieb eines einzelnen großen LLM, weil kleinere, spezialisierte Agenten bestimmte Aufgaben effizient erledigen, ohne Tokens für lange Prompts oder wiederholten Kontext zu verschwenden. Allerdings entsteht zusätzlicher Aufwand für die Orchestrierung und Kommunikation zwischen den Agenten, sodass die Einsparungen von der Komplexität des Anwendungsfalls abhängen.