KI-Agenten brauchen Ausgabenobergrenzen, bevor Unternehmen ihnen Kaufkraft einräumen

KI-Agenten in Unternehmen entwickeln sich von Systemen, die Maßnahmen empfehlen, hin zu Software, die diese auch ausführen kann. Ein Agent kann bereits nach Lieferanten suchen, eine Bestellung vorbereiten, eine andere Anwendung aufrufen oder eine Cloud-Konfiguration ändern, und die betriebswirtschaftliche Logik führt ganz natürlich dazu, dass bestimmte Systeme Geld ausgeben dürfen, ohne darauf warten zu müssen, dass ein Mensch jede einzelne kleine Transaktion genehmigt.

Unternehmen lassen bereits zu, dass Software automatisch Ausgaben tätigt. Werbeplattformen passen Gebote an, Cloud-Dienste skalieren Rechenressourcen und Beschaffungssysteme wickeln genehmigte Käufe ab, wobei diese Systeme in der Regel nach streng festgelegten Regeln arbeiten.

KI-Agenten unterscheiden sich dadurch, dass sie Ziele interpretieren, anstatt lediglich vorgegebene Anweisungen auszuführen. Wenn man einem Agenten die Anweisung gibt, “das Kundenproblem so schnell wie möglich zu lösen”, lässt dies weitaus mehr Spielraum für eigene Entscheidungen, als wenn man herkömmlicher Software vorschreibt, Rückerstattungen unter 20 £ zu gewähren.

Autorität muss in Geld ausgedrückt werden

Bei der Agentensteuerung geht es häufig um Datenberechtigungen: Welche Dateien das System lesen darf, auf welche Anwendungen es zugreifen darf und welche Aktionen einer Genehmigung bedürfen. Bei der Finanzhoheit ist das gleiche Maß an Präzision erforderlich.

Ein Kundendienstmitarbeiter erhält möglicherweise die Berechtigung, Gutschriften bis zu einem festgelegten Betrag pro Kunde auszustellen, während ein Einkäufer genehmigte Verbrauchsmaterialien im Rahmen eines monatlichen Budgets nachbestellen darf. Ein Cloud-Operations-Mitarbeiter kann die Rechenkapazität erhöhen, bis die Ausgaben einen festgelegten Schwellenwert erreichen.

Diese Grenzen machen aus einem abstrakten Autonomiekonzept etwas, das Finanz- und Risikoteams bewerten können.

Die wirksamsten Kontrollmechanismen sollten außerhalb des Modells selbst angesiedelt sein. Einer KI in ihrer Eingabeaufforderung vorzuschreiben, niemals mehr als 1.000 £ auszugeben, ist weniger wirksam als die Konfiguration des Zahlungssystems, sodass keine Transaktion über diesem Betrag ohne eine weitere Genehmigung durchgeführt werden kann.

Haushalte brauchen mehr als nur eine Obergrenze

Ein Transaktionslimit nützt wenig, wenn ein Mitarbeiter dieselbe Transaktion hunderte Male ausführen kann. Unternehmen benötigen daher Kontrollmechanismen, die neben dem Betrag jedes einzelnen Kaufs auch die kumulierten Ausgaben, die Transaktionshäufigkeit und ungewöhnliche Geschäftspartner abdecken.

Der Kontext kann den Schwellenwert beeinflussen. Ein System könnte beispielsweise Routinezahlungen an einen etablierten Lieferanten automatisch abwickeln, während für Überweisungen auf ein neues Bankkonto zunächst eine Genehmigung erforderlich ist.

Auch die Zeit stellt eine nützliche Grenze dar. Ein Einkäufer könnte über ein Tages- und ein Monatsbudget verfügen, wodurch verhindert wird, dass ein fehlerhafter Arbeitsablauf die gesamte jährliche Zuweisung aufbraucht, bevor jemand dies bemerkt.

Agenten können das Falsche perfekt optimieren

Je leistungsfähiger das Modell wird, desto wichtiger wird objektives Design. Ein Agent, der aufgefordert wird, Lieferverzögerungen zu minimieren, könnte für jede Bestellung den Premium-Versand wählen, da die Anweisung ihm nicht vorgibt, Geschwindigkeit und Kosten gegeneinander abzuwägen.

Ein menschlicher Mitarbeiter versteht unausgesprochene organisatorische Einschränkungen in der Regel aus Erfahrung. Software benötigt diese Einschränkungen in Form von Systemen, Berechtigungen und messbaren Zielen.

Finanzteams sollten daher bereits früher in den Einsatz von Agenten einbezogen werden, als viele Unternehmen annehmen. Sie kennen die Genehmigungshierarchien, Lieferantenkontrollen und Ausgaberichtlinien, die KI-Teams andernfalls möglicherweise erst dann neu entdecken, wenn ein System bereits in Betrieb genommen wurde.

Jede Transaktion muss nachvollziehbar sein

Autonome Ausgaben verändern auch die Anforderungen an die Rechnungsprüfung, da Organisationen nachvollziehen müssen, warum eine Transaktion stattgefunden hat. Die bloße Festhaltung, dass ein KI-Agent eine Zahlung ausgelöst hat, reicht nicht aus, wenn später festgestellt werden soll, welche Anweisung, welche Daten und welche Zwischenentscheidung dazu geführt haben.

Protokolle sollten den Geschäftsantrag mit den Maßnahmen des Bearbeiters und der abschließenden Finanztransaktion verknüpfen. Unternehmen können dann einen autorisierten Kauf, der zu einem ungünstigen Ergebnis geführt hat, von einer Maßnahme unterscheiden, für die das System niemals die Berechtigung hatte.

Diese Unterscheidung wirkt sich auf die Verantwortlichkeit aus. Führungskräfte können ein schlecht formuliertes Ziel verbessern; Sicherheitsteams müssen einen Fehler bei den Berechtigungen untersuchen; die Finanzabteilung muss möglicherweise eine Genehmigungsschwelle anpassen.

Autonomie muss man sich verdienen

Unternehmen Man muss sich nicht zwischen vollständig autonomen Agenten und Systemen entscheiden, die nach jedem Schritt eine Bestätigung durch den Menschen erfordern. Der Handlungsspielraum kann erweitert werden, sobald die Organisation Erkenntnisse darüber sammelt, wie zuverlässig ein Agent eine bestimmte Aufgabe ausführt.

Ein neuer Beschaffungsmitarbeiter könnte zunächst damit beginnen, Bestellungen zur Genehmigung vorzubereiten. Nach mehreren Monaten zuverlässiger Arbeit könnte er dann kleinere Einkäufe bei bestehenden Lieferanten abwickeln und alle übrigen Angelegenheiten an die nächsthöhere Ebene weiterleiten.

Das Modell kann genau gleich bleiben, während die Organisation die damit verbundenen Berechtigungen ändert.

KI-Agenten Sie werden erst dann wirtschaftlich nutzbar, wenn sie aktiv handeln können, anstatt lediglich zu beraten. Um ihnen diese Fähigkeit zu verleihen, müssen Unternehmen die Finanzhoheit mit derselben Ernsthaftigkeit behandeln wie die ihrer Mitarbeiter: klare Budgets, begrenzte Berechtigungen, unabhängige Kontrollen und eine Aufzeichnung darüber, wer – oder was – das Geld ausgegeben hat.