EinblickWerk

FachwissenModelle & TechnikKI im MittelstandWerkzeuge & PraxisSicherheit & Ethik

KI-Agenten einfach erklärt: Was können sie wirklich?

Ein Agent klingt nach einem digitalen Mitarbeiter, der ein Ziel bekommt und den Rest selbst erledigt. In der Praxis ist er eine Kombination aus Sprachmodell, Werkzeugen, Regeln und begrenztem Handlungsspielraum. Genau dort entscheidet sich, ob er nützt oder Ärger macht.

3 Min. LesezeitVon Stephan Kexel

Ich möchte mit einer Entzauberung beginnen: Ein KI-Agent ist kein eigenständiger digitaler Kollege mit gesundem Menschenverstand. Er ist ein Softwaresystem, das ein Modell nutzt, um einen Auftrag zu verstehen, nächste Schritte auszuwählen und bestimmte Werkzeuge aufzurufen. Das können eine Suche, ein CRM, eine Datenbank, ein Kalender oder ein internes Formular sein. Manche Systeme arbeiten nach einem festen Ablauf; andere entscheiden in Grenzen selbst, welchen Schritt sie als Nächstes ausführen. Der Begriff Agent wird für beides verwendet, obwohl die Risiken unterschiedlich sind.

Ein normaler Chatbot liefert in erster Linie eine Antwort. Ein Agent kann handeln. Nehmen wir eine Serviceanfrage: Das System erkennt das Produkt, sucht im Handbuch nach einer passenden Stelle, prüft im CRM den Kundenstatus und erstellt einen Antwortentwurf samt Quellenhinweis. Ein Mensch kontrolliert ihn und schickt ihn ab. Das ist ein nützlicher Agent, auch wenn er nicht autonom versendet. Die relevante Fähigkeit ist nicht maximale Selbstständigkeit, sondern ein zuverlässiger Ablauf mit nachvollziehbaren Zwischenschritten.

Die Fehlerkette ist der Punkt, über den in Produktdemos selten lange gesprochen wird. Ein Sprachmodell kann eine falsche Seriennummer lesen oder eine unpassende Regel aus einem Dokument ziehen. Ruft es danach ein Werkzeug auf, wird der Irrtum zur Aktion. Bei einem Rechercheentwurf ist das meist korrigierbar; bei einer Preisänderung, einer Zahlung oder einer verbindlichen Kundenmitteilung kann es teuer werden. Deshalb gehören Berechtigungen zur Architektur: lesen, vorschlagen, vorbereiten und ausführen sind vier verschiedene Rechte. Man sollte sie nicht in einem einzigen Schalter bündeln.

Auch die Umgebung muss agententauglich sein. Ein Agent braucht klare, kleine Werkzeuge mit eindeutigen Eingaben und Rückmeldungen. Wenn ein CRM-Feld mehrdeutig ist oder Statuswerte nicht sauber dokumentiert sind, kann das Modell keine verlässliche Entscheidung treffen. Dazu kommt die Prompt-Injection-Gefahr: Ein Agent, der fremde E-Mails oder Webseiten liest, kann darin Anweisungen finden, die ihn zu unerwünschten Handlungen verleiten. Externe Inhalte sind daher Daten, keine vertrauenswürdigen Befehle; sensible Aktionen brauchen zusätzliche Bestätigung.

Ich würde den ersten Anwendungsfall nicht nach Faszination auswählen, sondern nach Fehlerfolgen und Wiederholbarkeit. Geeignet ist ein Vorgang, der häufig vorkommt, klare Kriterien hat und bei dem ein Mensch das Ergebnis schnell prüfen kann: Anfragen sortieren, fehlende Angaben markieren, Gesprächsnotizen strukturieren oder einen Vorgang für die Freigabe vorbereiten. Ungeeignet als erster Test sind Prozesse, bei denen ein falscher Schritt sofort Geld bewegt, Rechte verändert oder Kundenbeziehungen belastet.

Mein Maßstab für einen guten Agenten ist deshalb nüchtern: Er erledigt einen begrenzten Teil der Arbeit, zeigt, worauf er seine Entscheidung stützt, und weiß, wann er an einen Menschen übergeben muss. Beginnen Sie mit einem Ablauf, protokollieren Sie Eingabe, Werkzeugaufrufe und Ergebnis, definieren Sie Abbruchbedingungen und prüfen Sie eine Stichprobe echter Fälle. Erst wenn Qualität und Zeitgewinn nachweisbar sind, würde ich die Rechte erweitern. Das ist weniger spektakulär als ein autonomes System, aber deutlich näher an einem belastbaren Geschäftswerkzeug.

Ein Agent muss nicht in einem einzigen großen Modellaufruf stecken. Ein robuster Ablauf kann Daten erfassen, relevante Stellen suchen, das Ergebnis prüfen und erst danach einen Vorgang vorbereiten. Diese Aufteilung ist nicht immer schneller, macht Fehler aber besser lokalisierbar. Wenn das System eine Quelle zitiert, kann der Prüfer sehen, ob sie zur Antwort passt. Wenn es bei fehlenden Angaben stoppt, verhindert es, dass eine Lücke mit einer plausiblen Erfindung gefüllt wird.

Für den Testbetrieb würde ich nicht nur erfolgreiche Beispiele sammeln. Nehmen Sie widersprüchliche Angaben, fehlende Dokumente, ungewöhnliche Formulierungen und Anfragen außerhalb des erlaubten Zwecks auf. Fragen Sie pro Fall: Was darf der Agent ausführen, was nur vorschlagen und wann muss er abbrechen? Solche Tests machen seinen Handlungsspielraum konkret. Ein gutes System ist nicht eines, das nie nachfragt; es erkennt, wann eine Nachfrage vernünftiger ist als eine Vermutung.

Quellen

Keine wichtigen KI-Entwicklungen verpassen.

Jeden Freitagmorgen die wichtigsten KI-Nachrichten der Woche als kompakte News-Snippets direkt ins Postfach.

Kostenlos, jederzeit abbestellbar. Sie erhalten zuerst eine E-Mail zur Bestätigung. Datenschutz

Kommentare

Noch kein Kommentar. Schreiben Sie den ersten.

Ihr Kommentar

Bitte bleiben Sie sachlich. Wir speichern Ihren Namen und Ihren Text, mehr dazu im Datenschutz.

Das könnte Sie auch interessieren