Leitfaden / Industrielle KI
KI-Agenten im Unternehmen: Prozesse automatisieren, Freigaben behalten
Ein KI-Agent nutzt ein Modell, um innerhalb eines vorgegebenen Ziels nächste Schritte und Werkzeuge auszuwählen. Eine feste Prozessautomatisierung folgt dagegen zuvor definierten Abläufen. Für klar geregelte Aufgaben genügt oft der feste Ablauf; variable Informationen können einen begrenzten Agentenschritt sinnvoll machen.
Ein Agent für Auftragsausnahmen könnte fehlende Angaben suchen, den passenden Vorgang öffnen und eine Rückfrage vorbereiten. Ob er diese Rückfrage auch versenden oder einen Termin ändern darf, ist eine eigene Entscheidung.
Legen Sie die erlaubten Aktionen einzeln fest. So lässt sich ein Agent in einen Unternehmensprozess einbauen, ohne ihm die gesamte Verantwortung für dessen Ausgang zu übertragen.
Beginnen Sie mit einem Ausnahmefall
Betrachten wir einen beispielhaften Auftrag mit widersprüchlichen Lieferangaben. Die Anwendung soll die Abweichung erkennen, die beteiligten Quellen zeigen und einen Vorschlag für den zuständigen Mitarbeiter vorbereiten. Sie darf keinen neuen Liefertermin verbindlich zusagen.
Dieser begrenzte Auftrag lässt sich testen. Ein allgemeines Ziel wie "Löse das Problem des Kunden" lässt dagegen offen, welche Zusagen oder Systemänderungen dazu erlaubt wären.
Schreiben Sie den Ablauf aus Sicht des Mitarbeiters auf: Was muss er sehen, um den Vorschlag zu prüfen? Welche Information fehlt? Wie erreicht er den bisherigen manuellen Prozess, wenn die Anwendung nicht weiterkommt?
Verteilen Sie Befugnisse nach der Handlung
| Handlung | Mögliche Grenze im Beispiel |
|---|---|
| Freigegebene Auftragsdaten lesen | Nur benötigte Felder und zugelassene Vorgänge |
| Widerspruch beschreiben | Quellen und Unsicherheit anzeigen |
| Rückfrage formulieren | Als Entwurf speichern |
| Nachricht versenden | Freigabe des zuständigen Mitarbeiters |
| Liefertermin ändern | Eigenständiger fachlicher Freigabeprozess |
Diese Tabelle ist ein Gestaltungsvorschlag, keine universelle Freigaberegel. Ihr Prozessverantwortlicher muss sie an die Auswirkungen eines Fehlers anpassen.
OWASP beschreibt übermäßige Befugnisse und Autonomie als Risiko bei LLM-Anwendungen. Die Anwendung sollte Rechte technisch begrenzen und folgenreiche Aktionen unabhängig vom Modell prüfen.
Machen Sie eine Freigabe prüfbar
Eine Schaltfläche "Genehmigen" hilft wenig, wenn der Nutzer den Vorgang neu recherchieren muss. Zeigen Sie den aktuellen Zustand, die vorgeschlagene Änderung und ihre Quellen nebeneinander. Vermerken Sie, welche Angaben unklar sind.
Verknüpfen Sie die Zustimmung mit genau diesem Vorschlag. Ändert sich danach der Inhalt oder die Ausgangslage, braucht der Prozess eine erneute Prüfung. Eine allgemeine Sitzungserlaubnis ist für eine konkrete Termin- oder Preisänderung zu weit gefasst.
Messen Sie auch, ob Mitarbeiter die Entwürfe tatsächlich kontrollieren können. Ein hoher Freigabeanteil allein belegt keine Qualität; er kann ebenso eine zu oberflächliche Prüfung verdecken.
Wer darf einen laufenden Ablauf anhalten?
Legen Sie eine verantwortliche Rolle und einen technisch wirksamen Stopppunkt fest. Ein gestoppter Agent darf keine neuen Aktionen beginnen; bereits ausgelöste Vorgänge müssen trotzdem abgeglichen werden. Zeigen Sie dem Mitarbeiter, was abgeschlossen, offen oder ungeklärt ist.
Testen Sie diesen Zustand ausdrücklich. Ein abgebrochener Dialog allein beweist nicht, dass auch Hintergrundaufträge beendet sind.
Geben Sie dem Agenten ein Ende
Ein automatisierter Ablauf braucht Bedingungen für Erfolg, Abbruch und Übergabe. Begrenzen Sie Wiederholungen und legen Sie fest, wer einen offenen Fall übernimmt. Eine Warteschlange voller ungelöster Ausnahmen verschiebt den Aufwand nur.
Zum Test gehören fehlende Quellen, widersprüchliche Daten und nicht verfügbare Schnittstellen. Halten Sie fest, ob der Agent den Fall verständlich übergibt und welche Arbeit beim Menschen verbleibt.
Vergleichen Sie anschließend den vollständigen Aufwand mit dem bisherigen Prozess. Eine bessere Vorarbeit kann nützlich sein, auch wenn eine Freigabe erhalten bleibt. Der Gewinn entsteht durch weniger Suchen und Korrigieren, nicht durch eine möglichst hohe Zahl autonomer Aktionen.
Wie Dokumente zu versionierten Schritten am Arbeitsplatz werden, zeigt der Leitfaden zur SOP-Automatisierung.
Welf entwickelt SOP-Automatisierung entlang dieser Zuständigkeiten. Wie sich die Freigabegrenzen vor dem Einsatz prüfen lassen, beschreibt Evaluation vor Autonomie.