Was KI-Agenten benötigen, bevor sie für Ihr Unternehmen arbeiten können
Ein KI Ein Assistent kann ein Dokument zusammenfassen, eine E-Mail entwerfen oder eine Frage beantworten. Ein KI-Agent geht noch einen Schritt weiter. Er kann Informationen abrufen, zwischen Systemen wechseln, innerhalb festgelegter Grenzen Entscheidungen treffen und eine Abfolge von Aktionen ausführen, ohne bei jedem Schritt auf eine Person warten zu müssen.
Genau dieser Unterschied macht Agenten so nützlich und gleichzeitig so schwer einsetzbar.
Ein Unternehmen mag kein Problem damit haben, wenn ein KI-Tool eine Antwort zur Überprüfung vorbereitet. Es ist jedoch etwas ganz anderes, wenn dasselbe System Kundendaten aktualisieren, eine Rückerstattung genehmigen, eine Lieferung planen oder eine Zahlung veranlassen soll. Sobald KI nicht mehr nur Inhalte generiert, sondern den Status eines Geschäftssystems verändert, dreht sich die Diskussion nicht mehr hauptsächlich um die Modellqualität. Es wird zu einer Frage des Zugriffs, der Befugnisse und der Rechenschaftspflicht.
Die Technologie entwickelt sich rasant weiter. Die damit verbundenen organisatorischen Rahmenbedingungen halten oft nicht Schritt.
Bevor ein Agent innerhalb eines Unternehmens zuverlässig arbeiten kann, braucht er mehr als nur eine Anleitung und eine Anbindung an die interne Software. Er benötigt eine klar definierte Rolle, begrenzte Berechtigungen, zuverlässige Informationen, Eskalationswege und eine Aufzeichnung seiner Aktivitäten. Ohne diese Voraussetzungen ist Autonomie weniger ein Produktivitätsgewinn als vielmehr ein unkontrolliertes Betriebsrisiko.
Ein Agent ist nicht einfach nur ein leistungsfähigerer Chatbot
Der Begriff “KI-Agent” wird sehr weit gefasst verwendet, was eine sinnvolle Planung erschwert.
Ein Chatbot reagiert auf eine Eingabe. Ein Copilot unterstützt eine Person bei der Erledigung einer Aufgabe. Ein Agent kann ein Ziel in mehreren Schritten verfolgen, dabei Werkzeuge auswählen und entsprechend dem Ergebnis jedes Schritts handeln.
Betrachten wir einmal eine Kundenanfrage.
Ein Chatbot könnte die Rückgabebedingungen des Unternehmens erläutern. Ein Copilot könnte eine Antwort für einen Mitarbeiter entwerfen. Ein Mitarbeiter könnte den Kunden identifizieren, die Bestellung überprüfen, die Anfrage mit den Richtlinien abgleichen, die Rücksendung innerhalb eines festgelegten Limits genehmigen, das Versandetikett erstellen, das CRM aktualisieren und den Kunden benachrichtigen.
Das letzte Beispiel ist keine einzelne KI-Aktion. Es handelt sich um einen gesteuerten Arbeitsablauf, an dem mehrere Systeme und Geschäftsregeln beteiligt sind.
Dadurch ist das Arbeitsumfeld des Agenten wichtiger als seine Konversationsfähigkeit. Das System muss wissen, welcher Kundendatensatz korrekt ist, welche Richtlinie gilt, welche Maßnahmen es ergreifen darf und wann der Fall an einen Mitarbeiter weitergeleitet werden muss.
Eine flüssige Antwort ist nützlich. Eine richtige Handlung ist unerlässlich.
Beginnen Sie mit einer klar definierten Rolle
Unternehmen gehen oft von der Technologie aus und fragen sich, wo sie eingesetzt werden kann. Bei Agenten ist der umgekehrte Ansatz erforderlich.
Die Organisation sollte zunächst die Rolle definieren.
Welches konkrete Ziel soll der Agent erreichen? Welche Systeme benötigt er dafür? Welche Aktionen sind zulässig? Was liegt außerhalb seiner Zuständigkeit? Wer ist für den Prozess verantwortlich, wenn etwas schiefgeht?
Eine vage Anweisung wie “bei der Bearbeitung von Kundenanfragen helfen” lässt zu viel Ermessensspielraum. Eine präzisere Definition könnte es dem Mitarbeiter ermöglichen, eingehende Anfragen zu klassifizieren, relevante Kontoinformationen abzurufen und ausgewählte Fälle unterhalb einer bestimmten finanziellen Schwelle zu lösen, während vertragliche Streitigkeiten und ungewöhnliche Beschwerden an ein bestimmtes Team weitergeleitet werden.
Die engere Definition ist nicht weniger ehrgeizig. Sie ist lediglich besser umsetzbar.
Ein gut konzipierter Agent hat ein klar definiertes Aufgabenprofil. Er streift nicht frei durch das Unternehmen und sucht nach Gelegenheiten, sich nützlich zu machen.
Berechtigungen sollten sich nach der Aufgabe richten
Ein Mitarbeiter sollte nur die Mindestzugriffsrechte erhalten, die zur Erledigung der ihm zugewiesenen Aufgaben erforderlich sind.
Dieses Prinzip ist in der Cybersicherheit bekannt, stellt jedoch eine größere Herausforderung dar, wenn Software über mehrere Systeme hinweg Schlussfolgerungen ziehen kann. Ein menschlicher Mitarbeiter verfügt zwar möglicherweise über weitreichende Zugriffsrechte, wendet jedoch sein Urteilsvermögen an, bevor er handelt. Ein autonomes System kann einen Fehler in großem Umfang wiederholen, wenn seine Berechtigungen zu weit gefasst sind.
Ein Support-Mitarbeiter muss möglicherweise Bestelldaten einsehen und den Status eines Falls aktualisieren. Er benötigt jedoch möglicherweise keinen Zugriff auf Gehaltsabrechnungsdaten, Lieferantenverträge oder alle Felder im CRM. Ein Mitarbeiter der Buchhaltung erstellt möglicherweise Zahlungsdateien, benötigt jedoch vor der Freigabe eine manuelle Genehmigung. Ein Mitarbeiter der Personalbeschaffung kann Vorstellungsgespräche vereinbaren, ohne jedoch die Befugnis zu haben, Bewerber abzulehnen.
Der Zugriff sollte zudem nach Aktionen unterteilt werden.
Das Lesen eines Datensatzes ist etwas anderes als dessen Änderung. Das Erstellen eines Entwurfs ist etwas anderes als dessen Versand. Das Empfehlen einer Zahlung ist etwas anderes als deren Genehmigung.
Viele Systeme wurden eher auf allgemeine Benutzerrollen als auf die genauen Berechtigungen ausgelegt, die die Mitarbeiter benötigen. Unternehmen müssen daher möglicherweise ihre Identitäts- und Zugriffsarchitektur überarbeiten, bevor sie eine sinnvolle Autonomie einführen können.
Diese Arbeit ist weniger sichtbar als die Agenten-Demonstration. Sie entscheidet darüber, ob man dem System vertrauen kann.
Zuverlässiges Wissen muss dem eigenständigen Handeln vorausgehen
Ein Akteur handelt auf der Grundlage der ihm zur Verfügung stehenden Informationen.
Wenn diese Informationen veraltet, unvollständig oder widersprüchlich sind, bleibt der Fehler nicht mehr auf die generierte Antwort beschränkt. Er gelangt in den Arbeitsablauf.
Ein Sachbearbeiter, der eine veraltete Preistabelle verwendet, könnte ein falsches Angebot unterbreiten. Wer sich auf eine veraltete Police stützt, könnte einen Antrag genehmigen, den das Unternehmen eigentlich hätte ablehnen müssen. Ein Wartungsmitarbeiter, der auf unvollständige Gerätedaten zurückgreift, könnte den falschen Wartungseinsatz planen.
Das Wissensumfeld erfordert daher eine klare Quellenangabe, Versionskontrolle und Zuordnung der Verantwortlichkeiten. Der Bearbeiter muss erkennen können, welches Dokument für eine Entscheidung maßgeblich ist und ob die Informationen weiterhin gültig sind.
Sie sollte auch erkennen können, wann die vorliegenden Beweise nicht ausreichen.
Ein ausgereiftes System betrachtet Unsicherheit nicht als Freibrief für Improvisation. Es hält inne, fordert zusätzliche Informationen an oder leitet den Fall an eine höhere Instanz weiter.
Dies ist eine der wichtigsten Entwurfsentscheidungen in der Unternehmensautomatisierung. Die Fähigkeit des Agenten, die Grenzen seines Wissens zu erkennen, kann wichtiger sein als seine Fähigkeit, eine plausible Antwort zu generieren.
Jede wichtige Handlung muss nachverfolgt werden
Wenn eine Person eine weitreichende Entscheidung trifft, kann die Organisation in der Regel nach dem Grund dafür fragen.
Das Gleiche sollte auch mit einem KI-Agenten möglich sein.
Ein aussagekräftiger Prüfpfad dokumentiert, welche Maßnahme ergriffen wurde, wann dies geschah, welche Systeme dabei zum Einsatz kamen und welche Informationen der Entscheidung zugrunde lagen. Außerdem sollte daraus hervorgehen, ob eine Person das Ergebnis genehmigt, geändert oder rückgängig gemacht hat.
Dies ist für die Einhaltung von Vorschriften, die Sicherheit und das allgemeine Management von Bedeutung. Ohne eine Rückverfolgbarkeit können Teams nicht unterscheiden, ob es sich um eine fehlerhafte Richtlinie, eine unzureichende Eingabeaufforderung, falsche Quelldaten oder einen Modellfehler handelt.
Es reicht nicht aus, jedes technische Ereignis zu protokollieren. Die Aufzeichnung sollte für die für den Prozess Verantwortlichen nachvollziehbar sein.
Ein Manager, der beispielsweise eine umstrittene Rückerstattung prüft, muss nachvollziehen können, dass der Sachbearbeiter eine bestimmte Richtlinienversion angewendet, den Transaktionswert ermittelt und im Rahmen eines genehmigten Schwellenwerts gehandelt hat. Ein Strom von Systemmeldungen bietet nicht die gleiche Nachvollziehbarkeit.
Eine gute Nachvollziehbarkeit ermöglicht zudem Verbesserungen. Wiederholte Eskalationen können auf Unklarheiten in den Regeln hinweisen. Häufige Rückbuchungen können darauf hindeuten, dass dem Sachbearbeiter zu viel Ermessensspielraum eingeräumt wurde. Muster bei Fehlern können auf fehlende Daten oder einen schlecht konzipierten Arbeitsablauf hinweisen.
Ohne Transparenz lernt das Unternehmen nur langsam dazu.
Die Zustimmung durch den Menschen sollte sich nach dem Risiko richten
Wenn für jede Aktion eine menschliche Zustimmung erforderlich ist, mag das einen Agenten zwar sicher machen, kann ihn aber auch sinnlos machen.
Der bessere Ansatz besteht darin, die Aufsicht an den Konsequenzen auszurichten.
Maßnahmen mit geringem Risiko, die rückgängig gemacht werden können, können automatisch ausgeführt werden. Der Agent kann beispielsweise Dokumente klassifizieren, interne Statusfelder aktualisieren oder Routineterminen ohne menschliches Eingreifen planen. Maßnahmen mit höherem Risiko sollten eine Genehmigung erfordern, insbesondere wenn es um Geld, rechtliche Verpflichtungen, Beschäftigungsverhältnisse, Sicherheit oder sensible Kundenbeziehungen geht.
Der Schwellenwert muss nicht für immer festgeschrieben sein. Ein Vertreter kann zunächst mit begrenzten Befugnissen beginnen und nach einer Überprüfung seiner Leistung durch das Unternehmen einen größeren Handlungsspielraum erhalten.
Dieser schrittweise Ansatz ist glaubwürdiger als beide Extreme: vollständige Autonomie von Anfang an oder eine ständige Bestätigung jedes einzelnen Schritts durch den Menschen.
Bei der Gestaltung von Genehmigungsverfahren sollte auch die Qualität der menschlichen Überprüfung berücksichtigt werden. Ein Manager, der Hunderte von Routineentscheidungen genehmigen muss, könnte dazu neigen, diese mechanisch zu bestätigen. Die Anwesenheit einer Person ist keine Garantie für eine sinnvolle Kontrolle.
Die Aufmerksamkeit des Menschen sollte den Fällen vorbehalten bleiben, in denen eine Beurteilung das Ergebnis tatsächlich verbessern kann.
Der Makler muss wissen, wann er aufhören muss
Viele Geschäftsprozesse beinhalten Ausnahmen.
Eine Kundenanfrage mag zunächst routinemäßig erscheinen, bis es zu einem Vertragsstreit kommt. Eine Lieferantenrechnung entspricht zwar den erwarteten Werten, enthält jedoch ungewöhnliche Bankverbindungen. Ein Servicefall mag zwar den formalen Richtlinien entsprechen, birgt jedoch ein Reputationsrisiko, das sich nicht durch eine einfache Regel erfassen lässt.
Ein effektiver Agent benötigt Stoppbedingungen.
Dazu können fehlende Informationen, widersprüchliche Datensätze, ungewöhnliche Transaktionswerte, geringe Zuverlässigkeit, eingeschränkte Daten oder eine Anfrage gehören, die außerhalb des definierten Prozesses liegt. Der Sachbearbeiter sollte nicht einfach weitermachen, nur weil er einen nächsten Schritt generieren kann.
Eine Eskalation ist daher Teil des Konzepts und kein Hinweis darauf, dass der Mitarbeiter versagt hat.
Ein System, das achtzig Prozent der Fälle sicher löst und die restlichen zwanzig Prozent mit den entsprechenden Hintergrundinformationen weiterleitet, kann einen größeren Mehrwert schaffen als eines, das versucht, alles selbst zu erledigen.
Das Ziel ist eine kontrollierte Umsetzung, nicht maximale Autonomie.
Reversible Maßnahmen verringern das operative Risiko
Eine Aktion lässt sich leichter automatisieren, wenn sie rückgängig gemacht werden kann.
Das Verfassen einer Nachricht lässt sich rückgängig machen. Das Versenden hingegen schon weniger. Die Änderung eines internen Feldes lässt sich in der Regel korrigieren. Eine Überweisung oder das Löschen eines Datensatzes kann jedoch Folgen haben, die sich nicht ohne Weiteres beheben lassen.
Unternehmen sollten bei der Entscheidung darüber, wie viel Befugnis ein Beauftragter erhält, die Umkehrbarkeit berücksichtigen.
Bei Arbeitsabläufen mit höherem Risiko bereitet das System möglicherweise die Maßnahme vor, legt die entsprechenden Belege vor und wartet auf eine Bestätigung. In anderen Fällen wird die Maßnahme automatisch ausgeführt, wobei jedoch die Möglichkeit besteht, sie innerhalb eines begrenzten Zeitraums rückgängig zu machen.
Dieser Grundsatz wirkt sich auch auf die Systemgestaltung aus. Bei Arbeitsabläufen sollte vermieden werden, mehrere irreversible Schritte zu einer undurchsichtigen Aktion zusammenzufassen. Durch die Trennung von Vorbereitung, Validierung und Ausführung erhält das Unternehmen mehr Kontrolle.
Ein fähiger Mitarbeiter sollte nicht schneller vorankommen dürfen, als das Unternehmen nachziehen kann.
Sicherheitsänderungen, wenn Software eigenständig handeln kann
Die herkömmliche Cybersicherheit konzentriert sich stark auf den Schutz von Daten und Systemen vor unbefugten Personen. Agenten bringen eine weitere Risikokategorie mit sich: autorisierte Software, die eine falsche Aktion ausführt.
Ein Angreifer könnte versuchen, den Agenten durch bösartige Anweisungen zu manipulieren, die in einem Dokument, einer E-Mail oder einer Webseite versteckt sind. Eine kompromittierte Quelle könnte dazu führen, dass der Agent Informationen preisgibt oder ein Tool unsachgemäß einsetzt. Eine zu weit gefasste Anweisung könnte dazu führen, dass das System eine gewöhnliche Anfrage als Erlaubnis für einen sensiblen Vorgang interpretiert.
Unternehmen benötigen Kontrollmechanismen sowohl für die Eingaben als auch für die Maßnahmen.
Externe Inhalte sollten nicht automatisch als Anweisung vertrauenswürdig angesehen werden. Sensible Tools sollten einer strengeren Überprüfung unterzogen werden. Die Identität des Agenten sollte von einem menschlichen Benutzerkonto getrennt sein, damit seine Aktivitäten sichtbar sind und seine Berechtigungen leichter widerrufen werden können.
Auch Zugangsdaten müssen sorgfältig verwaltet werden. Ein Agent sollte keine permanenten Zugriffsschlüssel in einer unsicheren Umgebung aufbewahren oder dieselbe Identität in verschiedenen, nicht miteinander verbundenen Arbeitsabläufen wiederverwenden.
Das sind keine hypothetischen technischen Bedenken. Sie ergeben sich unmittelbar daraus, dass Software die Möglichkeit erhält, innerhalb des Unternehmens zu agieren.
Agenten brauchen operative Verantwortliche
Ein KI-Agent kann zwischen mehreren Abteilungen angesiedelt sein, ohne eindeutig zu einer davon zu gehören.
Die Plattform wird möglicherweise von Technologieteams verwaltet. Die Geschäftsprozesse werden von den Fachabteilungen definiert. Die Rechts- und Compliance-Abteilungen legen die Rahmenbedingungen fest. Die Sicherheitsabteilung regelt den Zugriff. Der Betrieb kümmert sich um die Folgen, wenn der Arbeitsablauf fehlschlägt.
Wenn kein namentlich genannter Verantwortlicher feststeht, werden die Probleme von einem Team zum nächsten weitergereicht.
Für jeden eingesetzten Agenten sollte es eine Person geben, die für dessen Leistung, Berechtigungen und fortdauernde Relevanz verantwortlich ist. Diese verantwortliche Person sollte Vorfälle überprüfen, Änderungen genehmigen und entscheiden, ob der Prozess weiterhin automatisiert bleiben soll.
Zur Verantwortung gehört auch die Wartung. Richtlinien ändern sich. Systeme werden ersetzt. Produkte entwickeln sich weiter. Ein Workflow, der zum Zeitpunkt der Einführung korrekt war, kann Monate später unzuverlässig werden, wenn niemand die zugrunde liegenden Annahmen aktualisiert.
Agenten sind keine Softwareprojekte, die mit der Bereitstellung enden. Sie sind operative Akteure, die einer kontinuierlichen Überwachung bedürfen.
Beginnen Sie mit einem begrenzten Arbeitsumfang
Die überzeugendsten Agent-Projekte beginnen mit einem Prozess, der regelmäßig, strukturiert und messbar ist.
Die Aufgabe sollte klare Eingaben, eine begrenzte Anzahl von Systemen und ein Ergebnis haben, das das Unternehmen überprüfen kann. Außerdem sollte sie häufig genug wiederholt werden, damit die Automatisierung einen sinnvollen Mehrwert schafft.
Beispiele hierfür sind unter anderem die Bearbeitung von Standard-Serviceanfragen, der Abgleich von Rechnungen mit Bestellungen, die Erstellung von Compliance-Unterlagen oder die Koordination routinemäßiger interner Genehmigungsverfahren.
Ein abgegrenzter Workflow ermöglicht es dem Unternehmen, Berechtigungen, Eskalationsverfahren, Nachvollziehbarkeit und Leistung zu testen, ohne die gesamte Organisation zu gefährden.
Die gewonnenen Erkenntnisse lassen sich dann auf komplexere Aufgaben übertragen.
Die Einführung eines universellen Agenten mit weitreichenden Zugriffsrechten mag innovativer erscheinen. Allerdings erschwert dies auch das Verständnis dafür, warum das System erfolgreich ist oder scheitert.
Den abgeschlossenen Prozess messen
Die Leistung eines Agenten sollte nicht anhand der Anzahl der initiierten Aufgaben oder der ausgetauschten Nachrichten beurteilt werden.
Die entscheidende Frage ist, ob sich der Arbeitsablauf verbessert hat.
Zu den aussagekräftigen Kennzahlen zählen die Bearbeitungszeit, die Fehlerquote, manuelle Eingriffe, die Häufigkeit von Rückgängigmachungen, die Kosten pro Fall sowie der Anteil der korrekt eskalierten Aufgaben. Das Unternehmen sollte zudem Vorfälle erfassen, die zwar keinen unmittelbaren Verlust verursacht haben, aber eine Schwachstelle im Design offenbart haben.
Auch die Qualität verdient die gleiche Aufmerksamkeit. Ein schneller abgeschlossener Prozess ist nicht besser, wenn die Kunden schlechtere Ergebnisse erhalten oder die Mitarbeiter mehr Zeit damit verbringen, Ausnahmen zu korrigieren.
Die aussagekräftigste Kennzahl spiegelt in der Regel den gesamten Prozess wider und nicht nur einen einzelnen automatisierten Schritt.
Dadurch wird ein häufiger Fehler vermieden: die Optimierung des Agenten unter Vernachlässigung der ihn umgebenden Arbeit.
Autonomie ist eine organisatorische Entscheidung
KI-Agenten lassen sich künftig einfacher entwickeln. Die Anbindung eines Modells an Software-Tools ist bereits heute weniger aufwendig als die Festlegung der Regeln, nach denen es diese nutzen soll.
Die Unternehmen, die am meisten davon profitieren werden, sind nicht diejenigen, die am schnellsten Autonomie gewähren. Es werden diejenigen sein, die diese sorgfältig konzipieren.
Ein effektiver Akteur kennt seine Rolle, greift nur auf das zu, was er benötigt, stützt sich auf verlässliche Informationen und hinterlässt klare Spuren. Er erkennt Unsicherheiten, eskaliert Ausnahmen und handelt innerhalb von Grenzen, die den Folgen seiner Handlungen Rechnung tragen.
Diese Bedingungen mögen einschränkend erscheinen. Doch gerade sie machen eine sinnvolle Autonomie erst möglich.
Die Frage, vor der Unternehmen stehen, lautet nicht mehr, ob KI eine Abfolge von Aufgaben ausführen kann.
Es geht darum, ob die Organisation ein Umfeld geschaffen hat, in dem Software agieren kann, ohne ihre Befugnisse zu überschreiten.
