Il faut fixer des limites de dépenses pour les agents IA avant que les entreprises ne leur confèrent un pouvoir d'achat

Les agents d'IA d'entreprise évoluent : ils passent de systèmes qui recommandent des actions à des logiciels capables de les mener à bien. Un agent est déjà capable de rechercher des fournisseurs, de préparer une commande, d'appeler une autre application ou de modifier une configuration cloud ; la logique commerciale conduit naturellement à permettre à certains systèmes d'effectuer des dépenses sans attendre qu'un humain approuve chaque petite transaction.

Les entreprises autorisent déjà les logiciels à effectuer des dépenses de manière automatique. Les plateformes publicitaires ajustent les enchères, les services cloud adaptent les ressources informatiques en fonction des besoins et les systèmes d’approvisionnement traitent les achats approuvés, même si ces systèmes fonctionnent généralement selon des règles strictement définies.

Les agents d'IA se distinguent en ce qu'ils interprètent des objectifs plutôt que de se contenter d'exécuter des instructions prédéfinies. Demander à un agent de “ résoudre le problème du client le plus rapidement possible ” laisse une marge de manœuvre bien plus grande qu'en demandant à un logiciel classique d'effectuer des remboursements inférieurs à 20 £.

L'autorité doit être définie en termes d'argent

La gouvernance des agents porte souvent sur les autorisations d'accès aux données : quels fichiers le système peut lire, à quelles applications il peut accéder et quelles actions nécessitent une autorisation. La gestion des autorisations financières requiert le même niveau de précision.

Un chargé du service client peut être autorisé à accorder des avoirs jusqu'à un montant fixe par client, tandis qu'un responsable des achats peut passer de nouvelles commandes de fournitures approuvées dans la limite d'un budget mensuel. Un responsable des opérations cloud peut augmenter la capacité de calcul jusqu'à ce que les dépenses atteignent un seuil défini.

Ces limites permettent de transformer un concept abstrait d'autonomie en un élément que les équipes financières et de gestion des risques peuvent évaluer.

Les contrôles les plus efficaces doivent être mis en place en dehors du modèle lui-même. Indiquer à une IA, dans sa consigne, de ne jamais dépenser plus de 1 000 £ est moins efficace que de configurer le système de paiement de manière à ce qu’aucune transaction supérieure à ce montant ne puisse être effectuée sans une autorisation supplémentaire.

Les budgets ont besoin de plus qu'un simple plafond

Une limite par transaction n'a guère d'utilité lorsqu'un agent peut effectuer la même transaction des centaines de fois. Les entreprises doivent donc mettre en place des contrôles portant non seulement sur le montant de chaque achat, mais aussi sur les dépenses cumulées, la fréquence des transactions et les contreparties inhabituelles.

Le contexte peut modifier ce seuil. Un système peut traiter automatiquement les paiements courants destinés à un fournisseur habituel, tout en exigeant une validation avant d'effectuer tout virement vers un nouveau compte bancaire.

Le temps constitue également une limite utile. Un responsable des achats peut disposer d'un budget quotidien et mensuel, ce qui évite qu'un dysfonctionnement du processus ne vide la totalité de l'enveloppe annuelle avant que quelqu'un ne s'en aperçoive.

Les agents peuvent parfaitement optimiser ce qu’il ne faut pas

Plus le modèle gagne en efficacité, plus la conception objective prend de l’importance. Un agent chargé de réduire au minimum les délais de livraison pourrait opter pour une livraison express pour chaque commande, car l’instruction ne lui a jamais demandé de trouver un équilibre entre rapidité et coût.

Un employé humain comprend généralement, grâce à son expérience, les contraintes organisationnelles tacites. Un logiciel, quant à lui, a besoin que ces contraintes soient exprimées par le biais de systèmes, d'autorisations et d'objectifs mesurables.

Les équipes financières ont donc un rôle à jouer dans le déploiement des agents bien plus tôt que ne le pensent de nombreuses organisations. Elles maîtrisent les hiérarchies d'approbation, les contrôles des fournisseurs et les politiques de dépenses que les équipes d'IA ne pourraient redécouvrir qu'une fois le système mis en production.

Chaque transaction doit pouvoir être retracée

Les dépenses autonomes modifient également les exigences en matière d'audit, car les organisations doivent retracer les raisons pour lesquelles une transaction a eu lieu. Il ne suffit pas d'indiquer qu'un agent d'IA a déclenché un paiement lorsque quelqu'un doit par la suite savoir quelles instructions, quelles données et quelles décisions intermédiaires ont conduit à ce paiement.

Les journaux doivent établir un lien entre la demande de l'entreprise, les actions de l'agent et la transaction financière finale. Les entreprises peuvent ainsi distinguer un achat autorisé ayant abouti à un résultat insatisfaisant d'une action que le système n'a jamais été autorisé à effectuer.

Cette distinction a des implications en matière de responsabilité. Les responsables peuvent améliorer un objectif mal conçu ; les équipes de sécurité doivent enquêter sur une défaillance au niveau des autorisations ; le service financier peut être amené à modifier un seuil d'approbation.

L'autonomie se mérite

Entreprises Il n'est pas nécessaire de choisir entre des agents entièrement autonomes et des systèmes nécessitant une validation humaine après chaque étape. L'autonomie peut s'étendre à mesure que l'organisation accumule des données démontrant la fiabilité avec laquelle un agent exécute une tâche spécifique.

Un nouvel agent des achats pourrait commencer par préparer des bons de commande en vue de leur validation. Après plusieurs mois de travail satisfaisant, il pourrait effectuer des achats de faible montant auprès des fournisseurs existants et transmettre tout le reste à ses supérieurs.

Le modèle peut rester exactement le même tandis que l'organisation modifie les autorisations qui s'y rapportent.

Agents IA ne deviendront commercialement utiles que lorsqu’elles pourront agir plutôt que de se contenter de donner des conseils. Pour leur conférer cette capacité, les entreprises devront traiter les autorités financières avec le même sérieux que celui dont elles font preuve envers leurs employés : des budgets clairs, des autorisations limitées, des contrôles indépendants et un registre indiquant qui — ou quoi — a dépensé l’argent.