Ce dont les agents IA ont besoin avant de pouvoir travailler pour votre entreprise
Un IA Un assistant peut résumer un document, rédiger un e-mail ou répondre à une question. Un agent IA va plus loin. Il peut extraire des informations, passer d'un système à l'autre, prendre des décisions dans des limites définies et mener à bien une série d'actions sans avoir à attendre l'intervention d'une personne à chaque étape.
C'est précisément cette différence qui rend les agents à la fois utiles et difficiles à déployer.
Une entreprise peut se montrer à l'aise à l'idée de laisser un outil d'IA préparer une réponse en vue d'une validation. Mais c’est une tout autre affaire que de laisser ce même système mettre à jour le dossier d’un client, approuver un remboursement, planifier une expédition ou déclencher un paiement. Dès lors que l’IA passe de la simple génération de contenu à la modification de l’état d’un système d’entreprise, le débat ne porte plus principalement sur la qualité du modèle. Il s’agit alors d’une question d’accès, d’autorité et de responsabilité.
La technologie évolue rapidement. Ce n'est souvent pas le cas des règles organisationnelles qui s'y rapportent.
Pour qu'un agent puisse travailler de manière fiable au sein d'une entreprise, il ne suffit pas de lui fournir des instructions et de le connecter aux logiciels internes. Il a besoin d'un rôle clairement défini, d'autorisations limitées, d'informations fiables, de procédures d'escalade et d'un historique de ses actions. Sans ces conditions, l'autonomie devient moins un gain de productivité qu'un risque opérationnel non maîtrisé.
Un agent n'est pas simplement un chatbot plus performant
Le terme “ agent IA ” est utilisé de manière assez vague, ce qui complique une planification rationnelle.
Un chatbot répond à une requête. Un copilote assiste une personne dans l'exécution d'une tâche. Un agent peut atteindre un objectif en suivant plusieurs étapes, en choisissant des outils et en agissant en fonction du résultat de chaque étape.
Prenons l'exemple d'une demande de service client.
Un chatbot pourrait expliquer la politique de retour de l'entreprise. Un copilote pourrait rédiger une réponse pour un employé. Un agent pourrait identifier le client, vérifier la commande, comparer la demande avec la politique en vigueur, approuver le retour dans la limite d'un seuil défini, générer l'étiquette d'expédition, mettre à jour le CRM et informer le client.
Cet dernier exemple ne correspond pas à une simple action de l'IA. Il s'agit d'un flux de travail contrôlé impliquant plusieurs systèmes et règles métier.
De ce fait, l'environnement opérationnel de l'agent revêt une importance plus grande que ses capacités conversationnelles. Le système doit savoir quelle fiche client est la bonne, quelle police s'applique, quelle action il peut entreprendre et à quel moment le dossier doit être transmis à un interlocuteur humain.
Une réponse fluide est utile. Une action correcte est essentielle.
Commencez par définir clairement votre rôle
Les entreprises partent souvent de la technologie et se demandent où elle peut être utilisée. Les agents doivent adopter l'approche inverse.
L'organisation devrait commencer par définir ce rôle.
Quel objectif précis l'agent est-il censé atteindre ? De quels systèmes a-t-il besoin ? Quelles actions lui sont autorisées ? Qu'est-ce qui dépasse ses compétences ? À qui incombe la responsabilité du processus en cas de problème ?
Une instruction vague telle que “ aider à gérer les demandes des clients ” laisse une trop grande marge d'appréciation. Une définition plus précise pourrait permettre à l'agent de classer les demandes reçues, de récupérer les informations pertinentes relatives aux comptes et de résoudre certains cas dont le montant est inférieur à un certain seuil, tout en transmettant les litiges contractuels et les réclamations inhabituelles à une équipe désignée.
Cette définition plus restreinte n'en est pas moins ambitieuse. Elle est simplement plus facile à mettre en œuvre.
Un agent bien conçu a une mission clairement définie. Il ne se déplace pas au gré de ses envies au sein de l'organisation à la recherche d'occasions de se rendre utile.
Les autorisations doivent être définies en fonction de la tâche
Un agent doit disposer des droits d'accès minimaux nécessaires à l'exécution des tâches qui lui sont confiées.
Ce principe est bien connu dans le domaine de la cybersécurité, mais il devient plus complexe lorsque les logiciels sont capables d'effectuer des raisonnements sur plusieurs systèmes. Un employé humain peut disposer d'un accès étendu, mais il fait preuve de discernement avant d'agir. Un système autonome, en revanche, peut reproduire une erreur à grande échelle si ses autorisations sont trop larges.
Un agent du service client peut avoir besoin de consulter les fiches de commande et de mettre à jour le statut des dossiers. Il n'a toutefois pas nécessairement besoin d'accéder aux données de paie, aux contrats fournisseurs ou à tous les champs du CRM. Un agent comptable peut préparer des fichiers de paiement, mais doit obtenir une validation humaine avant leur envoi. Un recruteur peut programmer des entretiens sans être autorisé à rejeter des candidats.
L'accès devrait également être différencié en fonction de l'action.
La lecture d'un enregistrement est différente de sa modification. La création d'un brouillon est différente de son envoi. La recommandation d'un paiement est différente de son autorisation.
De nombreux systèmes ont été conçus autour de rôles d'utilisateurs généraux plutôt qu'en fonction des autorisations précises dont les agents ont besoin. Les entreprises pourraient donc devoir revoir leur architecture d'identité et d'accès avant de mettre en place une autonomie effective.
Ce travail est moins visible que la démonstration de l'agent. C'est lui qui détermine si l'on peut faire confiance au système.
Une connaissance fiable doit précéder toute action autonome
Un agent agit en fonction des informations dont il dispose.
Lorsque ces informations sont obsolètes, incomplètes ou contradictoires, l'erreur ne se limite plus à la réponse générée. Elle se répercute sur l'ensemble du processus.
Un agent utilisant un barème tarifaire obsolète risque d'envoyer une proposition erronée. Un agent s'appuyant sur une police de souscription périmée peut approuver une demande que la compagnie aurait dû refuser. Un agent de maintenance ayant accès à des fiches d'équipement incomplètes peut programmer une intervention inadaptée.
L'environnement de connaissances doit donc disposer d'une référence claire, d'un contrôle des versions et d'une attribution de responsabilité. L'agent doit être capable d'identifier quel document régit une décision et de déterminer si les informations qu'il contient sont toujours valides.
Elle doit également être en mesure de déterminer quand les éléments de preuve disponibles sont insuffisants.
Un système abouti ne considère pas l'incertitude comme un prétexte à l'improvisation. Il marque une pause, demande des informations complémentaires ou transmet le dossier à un niveau hiérarchique supérieur.
Il s'agit là d'un des choix de conception les plus importants dans le domaine de l'automatisation d'entreprise. La capacité de l'agent à reconnaître les limites de ses connaissances peut s'avérer plus importante que sa capacité à générer une réponse plausible.
Toute action importante doit laisser une trace
Lorsqu'une personne prend une décision importante, l'organisation peut généralement lui demander pourquoi.
Cela devrait également être possible avec un agent IA.
Une piste d'audit utile consigne les mesures qui ont été prises, le moment où elles ont été mises en œuvre, les systèmes utilisés et les informations sur lesquelles la décision s'est appuyée. Elle doit également indiquer si une personne a approuvé, modifié ou annulé le résultat.
Cela revêt une importance capitale en matière de conformité, de sécurité et de gestion courante. Sans trace, les équipes ne peuvent pas faire la distinction entre une politique défaillante, une invite insuffisante, des données sources erronées ou une erreur du modèle.
Il ne suffit pas d'enregistrer chaque événement technique. L'enregistrement doit être compréhensible pour les personnes en charge du processus.
Un responsable chargé d'examiner un remboursement contesté, par exemple, doit pouvoir vérifier que l'agent a appliqué une version spécifique de la politique, identifié le montant de la transaction et agi dans le respect d'un seuil approuvé. Un flux de messages système n'offre pas le même niveau de traçabilité.
Une bonne traçabilité permet également d'apporter des améliorations. Des escalades répétées peuvent mettre en évidence les points où les règles manquent de clarté. Des annulations fréquentes peuvent indiquer que l'agent dispose d'une trop grande marge d'appréciation. L'analyse des schémas d'échec permet d'identifier des données manquantes ou un flux de travail mal conçu.
Sans visibilité, l'entreprise apprend lentement.
L'approbation humaine doit intervenir après l'évaluation des risques
Le fait d'exiger une validation humaine pour chaque action peut certes garantir la sécurité d'un agent, mais cela peut aussi le rendre inutile.
La meilleure approche consiste à faire en sorte que la surveillance soit à la hauteur des enjeux.
Les actions à faible risque et réversibles peuvent être exécutées automatiquement. L'agent peut ainsi classer des documents, mettre à jour des champs de statut internes ou planifier des rendez-vous de routine sans intervention humaine. Les actions présentant un risque plus élevé doivent faire l'objet d'une validation, en particulier lorsqu'elles concernent des questions financières, des obligations légales, l'emploi, la sécurité ou des relations sensibles avec les clients.
Ce seuil n'est pas nécessairement définitif. Un agent peut commencer avec des pouvoirs limités et se voir attribuer une marge de manœuvre plus large une fois que l'entreprise aura évalué ses performances.
Cette approche progressive est plus crédible que l'un ou l'autre des extrêmes : une autonomie totale dès le départ ou une validation humaine permanente à chaque étape.
La conception du processus d'approbation doit également tenir compte de la qualité de l'examen humain. Un responsable appelé à approuver des centaines de décisions courantes risque de finir par les valider de manière mécanique. La présence d'une personne ne garantit pas pour autant un contrôle efficace.
L'attention humaine devrait être réservée aux cas où le jugement peut réellement améliorer le résultat.
L'agent doit savoir quand s'arrêter
De nombreux processus métier comportent des exceptions.
Une demande d'un client peut sembler banale jusqu'à ce qu'un litige contractuel surgisse. Une facture d'un fournisseur peut correspondre aux montants attendus, mais comporter des coordonnées bancaires inhabituelles. Un dossier de service peut respecter la politique officielle tout en présentant un risque pour la réputation qui ne peut être pris en compte par une simple règle.
Un agent efficace doit disposer de conditions d'arrêt.
Il peut s'agir notamment d'informations manquantes, d'enregistrements contradictoires, de montants de transactions inhabituels, d'un faible niveau de fiabilité, de données soumises à des restrictions ou d'une demande qui ne s'inscrit pas dans le cadre du processus défini. L'agent ne doit pas poursuivre le traitement simplement parce que le système peut générer une étape suivante.
L'escalade fait donc partie intégrante du processus ; elle ne constitue pas pour autant la preuve d'un échec de la part de l'agent.
Un système qui résout 80 % des cas en toute sécurité et transfère les 20 % restants en fournissant le contexte nécessaire peut créer davantage de valeur qu’un système qui tente de tout traiter lui-même.
L'objectif est une réalisation maîtrisée, et non une autonomie maximale.
Les actions réversibles réduisent le risque opérationnel
Une action est plus facile à automatiser lorsqu'elle peut être annulée.
La rédaction d'un message est réversible. Son envoi l'est moins. La modification d'un champ interne peut généralement être corrigée. Un virement bancaire ou la suppression d'un enregistrement peut avoir des conséquences difficiles à réparer.
Les entreprises devraient tenir compte de la réversibilité lorsqu'elles déterminent le niveau d'autorité à confier à un agent.
Pour les processus présentant un risque plus élevé, le système peut préparer l'action, présenter les justificatifs et attendre une confirmation. Dans d'autres cas, il peut l'exécuter automatiquement tout en conservant la possibilité de revenir en arrière dans un délai limité.
Ce principe a également des répercussions sur la conception des systèmes. Les processus doivent éviter de regrouper plusieurs étapes irréversibles en une seule action opaque. La séparation des phases de préparation, de validation et d'exécution permet à l'organisation d'exercer un meilleur contrôle.
Un agent compétent ne devrait pas être autorisé à agir plus vite que la société ne peut rattraper son retard.
L'évolution de la sécurité à l'ère des logiciels autonomes
La cybersécurité traditionnelle met fortement l'accent sur la protection des données et des systèmes contre les personnes non autorisées. Les agents introduisent une autre catégorie de risque : celle des logiciels autorisés qui effectuent une action incorrecte.
Un attaquant peut tenter de manipuler l'agent à l'aide d'instructions malveillantes dissimulées dans un document, un e-mail ou une page Web. Une source compromise pourrait l'amener à divulguer des informations ou à utiliser un outil de manière inappropriée. Une instruction trop vague pourrait amener le système à interpréter une requête ordinaire comme une autorisation d'effectuer une opération sensible.
Les entreprises doivent mettre en place des contrôles portant à la fois sur les données d'entrée et sur les actions.
Il ne faut pas considérer systématiquement le contenu externe comme une instruction fiable. Les outils sensibles devraient faire l'objet d'une validation plus rigoureuse. L'identité de l'agent devrait être distincte de celle d'un compte utilisateur humain, ce qui permettrait de rendre son activité visible et de faciliter la révocation de ses autorisations.
Les identifiants doivent également faire l'objet d'une gestion rigoureuse. Un agent ne doit pas conserver de clés d'accès permanentes dans un environnement non sécurisé ni réutiliser la même identité dans des flux de travail sans rapport les uns avec les autres.
Il ne s'agit pas là de préoccupations techniques hypothétiques. Elles découlent directement du fait de donner aux logiciels la capacité d'agir au sein de l'entreprise.
Les agents ont besoin de responsables opérationnels
Un agent IA peut se situer à la croisée de plusieurs services sans appartenir clairement à aucun d'entre eux.
La gestion de la plateforme peut être assurée par les équipes techniques. Les équipes métier définissent le processus. Les services juridiques et de conformité fixent les limites. La sécurité contrôle les accès. Les équipes opérationnelles gèrent les conséquences en cas de défaillance du flux de travail.
En l'absence d'un responsable désigné, les problèmes sont renvoyés d'une équipe à l'autre.
Chaque agent déployé doit avoir un responsable chargé de veiller à ses performances, à ses autorisations et à sa pertinence à long terme. Ce responsable doit examiner les incidents, approuver les modifications et décider si le processus doit rester automatisé.
La prise en charge implique également la maintenance. Les politiques changent. Les systèmes sont remplacés. Les produits évoluent. Un workflow qui était correct lors de son lancement peut devenir peu fiable quelques mois plus tard si personne ne met à jour ses hypothèses.
Les agents ne sont pas des projets logiciels qui s'achèvent au moment du déploiement. Ce sont des éléments opérationnels qui nécessitent une supervision continue.
Commencez par un travail bien délimité
Les projets d'agents les plus crédibles reposent sur un processus régulier, structuré et mesurable.
La tâche doit comporter des données d'entrée claires, un nombre limité de systèmes et un résultat que l'entreprise peut vérifier. Elle doit également présenter une fréquence de répétition suffisante pour que l'automatisation génère une valeur significative.
On peut citer, à titre d'exemple, le traitement des demandes de service courantes, le rapprochement des factures et des bons de commande, la préparation des documents de conformité ou la coordination des validations internes courantes.
Un workflow délimité permet à l'entreprise de tester les autorisations, les procédures d'escalade, la traçabilité et les performances sans exposer l'ensemble de l'organisation.
Ces enseignements peuvent ensuite être mis en pratique dans des travaux plus complexes.
Le lancement d'un agent polyvalent disposant d'un large accès peut sembler plus innovant. Cela rend également difficile de comprendre pourquoi le système réussit ou échoue.
Évaluer le processus une fois achevé
Les performances d'un agent ne doivent pas être évaluées en fonction du nombre de tâches lancées ou de messages échangés.
La question qui se pose est de savoir si le processus de travail s'est amélioré.
Parmi les indicateurs utiles, on peut citer le temps d'exécution, les taux d'erreur, l'intervention humaine, la fréquence des annulations, le coût par dossier et la proportion de tâches correctement transmises à un niveau supérieur. L'entreprise doit également recenser les incidents qui, bien qu'ils n'aient pas entraîné de perte immédiate, ont mis en évidence une faiblesse dans la conception du système.
La qualité mérite tout autant d'attention. Un processus mené à bien plus rapidement n'est pas pour autant meilleur si les clients obtiennent des résultats de moindre qualité ou si les employés passent davantage de temps à corriger les anomalies.
L'indicateur le plus pertinent reflète généralement l'ensemble du processus plutôt qu'une seule étape automatisée.
Cela permet d'éviter une erreur courante : optimiser l'agent tout en négligeant le contexte dans lequel il évolue.
L'autonomie relève d'une décision organisationnelle
La création d'agents IA deviendra plus simple. Il est déjà moins difficile de connecter un modèle à des outils logiciels que de définir les règles selon lesquelles il doit les utiliser.
Les entreprises qui en tireront le plus grand bénéfice ne seront pas celles qui accorderont le plus rapidement cette autonomie, mais celles qui l'auront soigneusement conçue.
Un agent efficace connaît son rôle, n'accède qu'aux données dont il a besoin, s'appuie sur des informations fiables et laisse une trace claire de ses actions. Il identifie les incertitudes, signale les exceptions et opère dans des limites qui reflètent les conséquences de ses actions.
Ces conditions peuvent sembler restrictives. Ce sont pourtant elles qui rendent possible une autonomie utile.
La question qui se pose aux entreprises n'est plus de savoir si l'IA est capable d'effectuer une série de tâches.
La question est de savoir si l'organisation a mis en place un environnement dans lequel le logiciel peut fonctionner sans outrepasser ses prérogatives.
