Der Begriff, der gerade überall steht
„KI-Agent“ ist einer der meistbenutzten Begriffe dieser Jahre — und einer der am häufigsten missverstandenen. Je nachdem, wen man fragt, bekommt man drei verschiedene Antworten. Die einen meinen damit einen besseren Chatbot. Die anderen verstehen darunter ein autonom agierendes System, das ganze Abteilungen ersetzt. Die Dritten zucken mit den Schultern und sagen, das sei Marketing.
Die Wahrheit liegt dazwischen, aber sie ist konkreter, als der Hype suggeriert. KI-Agenten sind keine Science-Fiction — sie sind eine heute verfügbare Kategorie von Software, die sich von klassischen Chatbots und von starren Workflow-Automationen deutlich unterscheidet. In diesem Beitrag erklären wir, was ein KI-Agent tatsächlich ist, wie er funktioniert, und wo er im Mittelstand heute wirklich Sinn ergibt.
Was ein KI-Agent ist — und was nicht
Ein KI-Agent ist ein softwarebasiertes System, das eine zielorientierte Aufgabe eigenständig bearbeitet. Er nutzt ein Large Language Model (LLM) als „Denkmotor“, verbindet sich mit Werkzeugen (Tools), hält Kontext über mehrere Schritte, und trifft dabei Entscheidungen darüber, was als Nächstes zu tun ist.
Um den Begriff konkret zu machen, hilft die Abgrenzung zu drei verwandten Kategorien.
Ein Chatbot beantwortet Fragen. Er hat keine Ziele, keine Werkzeuge, kein Gedächtnis über die Konversation hinaus. Er reagiert auf eine Eingabe und gibt eine Ausgabe. Ein Chatbot ist ein Gespräch.
Eine Workflow-Automation (z.B. in Make oder Zapier) führt eine vordefinierte Schrittfolge aus, wenn ein Auslöser feuert. Sie hat keine Entscheidungsfreiheit, kein eigenständiges Denken. Sie ist ein Fließband.
Ein LLM für sich genommen ist nur ein Sprachmodell — es produziert Text, aber es tut nichts in der Welt. Es hat keine Verbindung zu Ihrer Datenbank, keinen Zugriff auf Ihr CRM, keine Erinnerung an das, was es gestern getan hat.
Ein KI-Agent kombiniert alle drei. Er hat ein Ziel („Bearbeite diese Kundenanfrage“), er hat Werkzeuge (E-Mail versenden, Datenbank abfragen, Ticket erstellen), er hat Gedächtnis (er weiß, was vorher passiert ist), und er hat Entscheidungsfähigkeit (er wählt, welches Werkzeug er als Nächstes nutzt). Er ist ein Mitarbeiter auf einer begrenzten Aufgabe.
Wie ein Agent technisch funktioniert
Vereinfacht gesagt läuft jeder Agent in einer Schleife: Der Agent bekommt eine Aufgabe, überlegt sich den nächsten Schritt, nutzt ein Werkzeug, beobachtet das Ergebnis, überlegt wieder, handelt wieder — bis das Ziel erreicht ist. In der Fachliteratur (z.B. IBMs „2026 Guide to AI Agents“) nennt man dieses Muster ReAct (Reason + Act).
Drei Komponenten sind dabei essenziell.
Das Modell (Reasoning-Engine). In der Regel ein großes Sprachmodell — Claude, GPT, Gemini, Llama. Es wird nicht fein-trainiert, sondern bekommt seine Rolle und seine Aufgabe über den sogenannten System-Prompt. Das Modell ist der Teil, der „denkt“.
Die Werkzeuge (Tools). Das ist die eigentliche Magie. Ein Werkzeug ist eine Funktion, die der Agent aufrufen kann: „Durchsuche unsere Wissensdatenbank“, „Lege ein Ticket in Zendesk an“, „Schicke eine E-Mail“, „Ruf die Lagerbestand-API auf“. Der Agent entscheidet selbst, wann er welches Werkzeug braucht.
Das Gedächtnis (Memory). Ein Agent hält Kontext — über einen einzelnen Auftrag, manchmal auch über mehrere Aufträge hinweg. Das Gedächtnis kann kurz sein (nur die aktuelle Unterhaltung) oder länger (eine Datenbank, in der der Agent frühere Interaktionen mit demselben Kunden nachschlagen kann).
Drei konkrete Einsatzszenarien im Mittelstand
Abstrakt ist das schnell gesagt. Konkreter wird es an Beispielen.
1. Kundenservice-Agent
Ein Kunde schreibt per E-Mail, dass seine Bestellung seit zwei Wochen nicht angekommen ist. Ein Service-Agent liest die Mail, extrahiert die Bestellnummer, prüft im ERP den Status, findet einen Lieferverzug des Spediteurs, formuliert eine empathische Antwort mit dem aktuellen Stand, bietet eine 10-Prozent-Gutschrift als Kompensation an, legt das Ticket in der CRM an und schickt die Antwort raus. Der menschliche Kollege sieht nur noch die Fälle, die der Agent nicht sauber lösen konnte.
2. Interner Wissens-Agent
Mitarbeiter einer Kanzlei fragt: „Wie ist unser Standard bei grenzüberschreitenden DAC6-Meldungen?“ Ein interner Agent durchsucht die Kanzlei-eigene Wissensbasis (interne Leitfäden, vergangene Fälle, Rechtsprechungen), fasst die Standard-Vorgehensweise zusammen, verweist auf zwei relevante interne Dokumente und auf einen vergleichbaren Mandatsfall aus 2024. Keine Google-Suche, kein Wissens-Verlust zwischen Kollegen.
3. Lead-Qualifizierungs-Agent
Ein neuer Kontakt füllt das Kontaktformular aus. Ein Agent liest die Angaben, recherchiert die Firma (Website, LinkedIn), reichert das Profil mit Branche, Größe und relevanten Kennzahlen an, bewertet den Fit nach den Kriterien des Vertriebsteams, legt den Lead im CRM an, schreibt eine personalisierte Bestätigungsmail und benachrichtigt den zuständigen Vertriebsmitarbeiter mit einer strukturierten Zusammenfassung. Die Person, die den Lead schließlich persönlich kontaktiert, hat bereits eine halbe Stunde Kontext-Vorlauf in drei Minuten gespart.
Einstiegsaufwand und Kosten
Die ehrliche Antwort: Das kommt drauf an. Aber konkreter als „kommt drauf an“ geht es.
Ein einfacher, eng definierter Agent für einen bestimmten Anwendungsfall (z.B. Lead-Qualifizierung, automatischer Erstkontakt im Service) lässt sich in drei bis fünf Wochen produktiv aufsetzen. Die einmaligen Kosten liegen typischerweise zwischen 5.000 und 10.000 Euro, je nach Komplexität der Werkzeuge und der Anbindungen. Die laufenden Kosten — API-Nutzung, Hosting — liegen bei den meisten KMU zwischen 50 und 300 Euro pro Monat.
Ein breiterer interner Agent (z.B. ein Wissens-Agent für die ganze Firma) ist aufwändiger — eher 10.000 bis 20.000 Euro einmalig — und braucht sechs bis zehn Wochen, weil die Wissensbasis aufbereitet werden muss.
Der ROI entsteht selten über Personalersatz. Er entsteht über Zeiteinsparung an gut gewählten Engstellen. Wenn ein Agent an einer Stelle fünf Mitarbeiterstunden pro Woche spart, hat sich ein 8.000-Euro-Projekt nach spätestens einem Quartal amortisiert.
Wo Agenten heute (noch) scheitern
Bei aller Begeisterung gehört auch die ehrliche Kehrseite dazu. KI-Agenten sind heute nicht gut in allem.
Sie sind schwach in Aufgaben, die sehr viel domänenspezifisches, nicht-dokumentiertes Wissen erfordern — zum Beispiel komplexe Steuergestaltung, wo jede Situation ein Einzelfall ist. Sie sind schwach, wo der Kontext zu lang und zu vielschichtig wird — moderne Modelle können zwar viel Text verarbeiten, aber ein Agent, der über Wochen eine komplizierte Projektsituation überblicken muss, ist heute nicht robust.
Und sie sind schwach dort, wo Fehler teuer sind und kein Mensch mehr dazwischenschaut. Das ist kein Argument gegen Agenten — sondern ein Argument für saubere Grenzen: Der Agent soll vorbereiten, strukturieren, automatisieren. Die Freigabe bei kritischen Schritten bleibt beim Menschen.
Agenten und Datenschutz
Ein Thema, das speziell in Deutschland wichtig ist: der Umgang mit personenbezogenen Daten. Ein Agent, der auf Kundendaten zugreift, unterliegt denselben DSGVO-Anforderungen wie jede andere Datenverarbeitung. Das heißt: Rechtsgrundlage klären, AVV mit dem LLM-Anbieter oder eigenes Hosting, Transparenz gegenüber den Betroffenen, Serverstandort bevorzugt in der EU. Seriöse Anbieter wie Anthropic (Claude) und OpenAI (GPT via Azure) haben mittlerweile Setups, die DSGVO-konform betreibbar sind — wer strenger ist, setzt auf europäische Modelle oder Self-Hosted-Lösungen wie Mistral oder Llama auf eigenen Servern.
Die Umstellung Ihres Unternehmens
Wer sein Unternehmen auf KI-Agenten „umstellen“ will, sollte mit einem einzelnen Anwendungsfall beginnen — nicht mit einer Transformationsstrategie. Wählen Sie einen Prozess, in dem klar ist, was der Input ist und was der gewünschte Output, der regelmäßig wiederkehrt und Mitarbeiterzeit kostet. Automatisieren Sie diesen einen Prozess mit einem Agenten, messen Sie sechs Wochen lang die Ergebnisse, und erst dann gehen Sie den nächsten Schritt.
Dieses Vorgehen ist langsamer als das, was Ihnen die großen IT-Berater verkaufen. Aber es ist das einzige, das im Mittelstand zuverlässig funktioniert. Denn im Mittelstand ist das knappste Gut selten das Budget — es ist die Aufmerksamkeit der Geschäftsführung.
Wenn Sie überlegen, wo in Ihrem Unternehmen ein erster Agent Sinn ergeben könnte, zeigen wir Ihnen im Erstgespräch gerne konkrete Beispiele aus vergleichbaren Unternehmen. Verwandte Bausteine haben wir auch in E-Mail Automationen und Fachkräftemangel in der Steuerberatung beschrieben.
