Quand une entreprise doit-elle laisser l'IA influencer une décision ?

L'IA peut prévoir la demande, hiérarchiser les opportunités commerciales, recommander des prix et identifier les transactions qui semblent inhabituelles. Elle est capable de traiter davantage d'informations qu'une équipe de direction ne pourrait en examiner manuellement et de générer des recommandations presque instantanément. Cela ne signifie pas pour autant que ces recommandations soient correctes, judicieuses d'un point de vue commercial ou adaptées à une exécution automatique. La véritable valeur de l’intelligence décisionnelle ne réside pas dans le fait de se substituer au jugement humain, mais dans le fait de rendre les décisions récurrentes plus cohérentes, plus mesurables et plus faciles à remettre en question.

Pour les dirigeants d'entreprise, la question centrale n'est donc pas de savoir si l'IA est capable d'apporter une réponse. Il s'agit plutôt de déterminer quelles décisions doivent être étayées par un modèle, lesquelles peuvent être automatisées en toute sécurité et lesquelles doivent rester sous un contrôle humain effectif.

L'intelligence décisionnelle ne se limite pas à la prévision

L'intelligence décisionnelle associe données, modèles analytiques, règles métier et processus opérationnels afin d'améliorer la prise de décision au sein d'une organisation.

Un modèle prédictif peut estimer la probabilité qu'un client résilie son abonnement. L'intelligence décisionnelle va plus loin en associant cette prédiction à une action possible. L'entreprise peut proposer une réduction, organiser une intervention technique, ne rien faire ou donner la priorité à ce client pour qu'il fasse l'objet d'un examen par un conseiller.

La prévision et la décision ne sont pas la même chose. Un client peut présenter une forte probabilité de départ, mais sa fidélisation peut s'avérer non rentable. Un autre peut sembler peu susceptible de résilier son contrat, mais revêtir une importance stratégique. Les contraintes opérationnelles, les coûts et la gestion de la relation client doivent être pris en compte parallèlement à l'estimation fournie par le modèle.

Un système d'aide à la décision efficace doit donc comporter au moins quatre éléments :

• Des informations fiables sur la situation actuelle
• Un modèle ou une méthode analytique permettant d'estimer les résultats possibles
• Règles définissant les actions autorisées
• Un processus permettant de suivre ce qui s'est passé par la suite

Sans cet élément final, l'organisation risque d'automatiser ses décisions sans savoir si celles-ci ont permis d'améliorer ses résultats.

Commencez par prendre des décisions répétées

L'IA est particulièrement utile lorsque les décisions sont prises fréquemment, qu'elles suivent une structure identifiable et qu'elles génèrent suffisamment de résultats pour permettre d'évaluer les performances.

On peut citer, par exemple, le fait de déterminer quelles alertes de fraude nécessitent une enquête, la quantité de stock à envoyer à un magasin, quelle demande d'entretien est la plus urgente ou quelle demande d'un client doit être transmise à un spécialiste.

Ces décisions sont souvent trop nombreuses pour que les cadres supérieurs puissent les examiner une à une, mais suffisamment importantes pour que tout manque de cohérence entraîne des coûts.

L'IA s'avère moins utile, à première vue, pour les décisions stratégiques exceptionnelles, telles que l'implantation dans un nouveau pays, l'acquisition d'un concurrent ou le remplacement du directeur général. Les données historiques peuvent être limitées, le contexte peut être unique et les conséquences difficiles à inverser.

Un modèle peut néanmoins faciliter ces décisions en structurant les données, en modélisant des scénarios et en identifiant les hypothèses. Il ne doit pas donner l'impression qu'un choix stratégique sans précédent s'est transformé en un calcul objectif.

Le meilleur point de départ est généralement une décision opérationnelle portant sur un volume important, avec une base de référence claire et des conséquences limitées en cas d'erreur du modèle.

Cartographier le processus décisionnel existant avant d'intégrer l'IA

De nombreuses entreprises intègrent l'IA dans un processus qu'elles n'ont jamais véritablement analysé.

Avant de choisir un modèle, décrivez comment la décision est prise aujourd’hui. Qui fournit les informations ? Quelles règles sont formelles et lesquelles relèvent uniquement de l’expérience des employés ? Où se produisent les retards et les incohérences ? Qui est responsable du résultat ?

Cet exercice pourrait montrer que le problème ne réside pas dans un manque d'intelligence. L'organisation peut être confrontée à des politiques contradictoires, à des données de mauvaise qualité, à des processus de validation trop lents ou à un manque de consensus sur l'objectif à atteindre.

Une équipe chargée de la tarification, par exemple, peut être amenée à devoir à la fois maximiser la marge, accroître la part de marché et préserver la confiance des clients. Un système d'IA ne peut pas résoudre ce conflit stratégique à moins que la direction ne décide comment ces objectifs doivent être conciliés.

L'automatisation appliquée à un processus peu clair rend souvent cette ambiguïté plus difficile à percevoir. Le système émet une recommandation précise, mais l'organisation ne dispose toujours pas d'une définition cohérente de la réussite.

Prévoir la demande est utile, mais cela n'offre aucune certitude

La prévision de la demande est l'une des applications les plus fiables de l'intelligence décisionnelle. Les détaillants et les fabricants peuvent combiner l'historique des ventes, les promotions, la saisonnalité, les conditions météorologiques et les tendances locales pour estimer ce que les clients sont susceptibles d'acheter.

Des prévisions plus précises permettent de réduire les excédents de stock et les pertes de chiffre d'affaires. Elles peuvent également aider à définir les effectifs nécessaires, les plans de transport et les calendriers de production.

La limite réside dans le fait que les modèles s'appuient sur des données historiques. L'arrivée d'un nouveau concurrent, une rupture d'approvisionnement, une tendance virale ou un choc économique soudain peuvent faire en sorte que le passé récent ne soit plus un bon indicateur.

Les prévisions devraient donc être présentées sous forme de fourchettes ou de scénarios plutôt que sous la forme d'un chiffre précis. Les dirigeants doivent comprendre quelles hypothèses sous-tendent le résultat et dans quelle mesure la recommandation est sensible aux changements.

Un modèle estimant la demande à 10 000 unités ne doit pas inciter l'entreprise à agir comme si ce chiffre de 10 000 était avéré. La décision pourrait plutôt consister à commander immédiatement 8 000 unités, à réserver une capacité pour 3 000 unités supplémentaires et à suivre l'évolution de la demande dès les premiers stades.

L'intérêt réside dans le fait de structurer l'incertitude plutôt que de faire comme si elle avait disparu.

La tarification nécessite des limites claires

L'IA est capable d'analyser la demande, les stocks, la concurrence et le comportement des clients afin de proposer des prix ou des promotions. Dans les environnements à fort volume, cela peut permettre à une entreprise de réagir plus rapidement qu'une équipe chargée d'ajuster les prix manuellement.

La tarification dynamique peut permettre d'augmenter le chiffre d'affaires et de réduire le gaspillage. Elle peut toutefois nuire à la confiance des clients lorsque ceux-ci ont le sentiment d'être traités de manière injuste ou ne comprennent pas pourquoi les prix varient.

Un système décisionnel doit être assorti de limites explicites. Celles-ci peuvent inclure des prix minimaux et maximaux, des restrictions concernant les données pouvant être utilisées, ainsi que des règles interdisant toute modification en cas d'urgence ou de situation délicate.

L'organisation devrait également faire la distinction entre les différences liées au coût ou à la demande et celles fondées sur des hypothèses concernant le montant qu'un client individuel pourrait être amené à payer.

Une recommandation efficace sur le plan commercial peut néanmoins s'avérer inacceptable d'un point de vue juridique ou en termes de réputation. Le système doit refléter la politique de l'entreprise, et non pas simplement la stratégie la plus susceptible d'augmenter le chiffre d'affaires à court terme.

Les chaînes d'approvisionnement ont besoin de scénarios plutôt que de réponses toutes faites

L'intelligence décisionnelle peut aider les entreprises à identifier les fournisseurs vulnérables, à anticiper les retards et à comparer différentes options d'acheminement ou stratégies de gestion des stocks.

Cela s'avère particulièrement utile lorsqu'une chaîne d'approvisionnement comprend des milliers de produits et de fournisseurs dont les risques s'influencent mutuellement. Un retard au niveau d'un seul maillon peut avoir des répercussions sur plusieurs usines, contrats clients et plans de transport.

Ce modèle permet de hiérarchiser les problèmes qui méritent une attention particulière et d'évaluer les conséquences des différentes mesures qui pourraient être prises. Il ne peut toutefois pas prédire avec précision comment une guerre, la fermeture d'un port ou une restriction gouvernementale va se dérouler.

Les systèmes de chaîne d'approvisionnement devraient donc permettre la planification de scénarios. Que se passerait-il si un fournisseur était indisponible pendant deux semaines plutôt que deux mois ? Quels clients faudrait-il privilégier ? Quel surcoût l'entreprise serait-elle prête à accepter pour assurer la continuité de ses activités ?

Le choix final peut dépendre des relations contractuelles, de la sécurité, de la réputation et des clients stratégiques, autant d'éléments qui ne peuvent pas toujours être déduits à partir des seules données transactionnelles.

Les décisions en matière de crédit et d'assurance ont des enjeux plus importants

Les banques et les assureurs utilisent des modèles pour évaluer les risques de défaut de paiement, de fraude et de sinistres. L'intelligence artificielle peut permettre d'identifier des relations complexes et de traiter les demandes plus rapidement que les méthodes traditionnelles.

Ces décisions ont une incidence directe sur l'accès aux crédits immobiliers, aux prêts, aux assurances et à d'autres services essentiels. Les erreurs peuvent porter préjudice aux particuliers et entraîner des risques juridiques et réglementaires.

Les données historiques peuvent également refléter une discrimination antérieure ou un accès inégal. Un modèle peut reproduire cette tendance sans recourir à une caractéristique explicitement protégée. Le lieu de résidence, les antécédents professionnels ou les habitudes d'achat peuvent servir d'indicateurs indirects.

Les systèmes à fort impact nécessitent des tests, des explications et des examens plus rigoureux. L'organisation doit analyser les résultats au sein des groupes concernés et mettre en place un dispositif permettant aux personnes de contester ou de faire rectifier une décision.

Le contrôle humain doit être réel. Demander à un employé d'approuver chaque jour des centaines de recommandations de modèles ne permet pas d'assurer un contrôle efficace si cet employé ne dispose ni du temps, ni des informations, ni de l'autorité nécessaires pour exprimer son désaccord.

Ce modèle devrait concurrencer une alternative plus simple

Les entreprises évaluent souvent un système d'IA sophistiqué en partant du principe qu'il n'existe aucun outil d'analyse.

Il est plus pertinent de comparer cette solution à la méthode la plus simple permettant de résoudre le problème. Une règle métier claire, un modèle statistique ou un tableau de bord plus performant peuvent offrir des résultats presque aussi bons, à moindre coût et avec une plus grande transparence.

Un modèle complexe ne mérite d'être mis en œuvre que si la précision ou la flexibilité supplémentaires qu'il apporte modifient suffisamment le résultat économique pour justifier son développement, son intégration et sa gestion.

La comparaison devrait inclure :

• Précision et coût des différents types d'erreurs
• Rapidité et capacité opérationnelle
• Exigences en matière de données et d'infrastructure
• Facilité d'explication
• Maintenance et surveillance
• Dépendance vis-à-vis des prestataires externes
• Les conséquences d'un échec

Une amélioration de la précision, passant de 90 à 92 %, peut s'avérer utile dans le cadre de millions de transactions à faible risque. Elle peut toutefois s'avérer insuffisante lorsque les erreurs restantes privent des personnes de services essentiels ou entraînent de graves risques pour la sécurité.

La précision moyenne ne suffit pas à elle seule à déterminer si un produit est adapté.

La supervision humaine doit avoir un objectif précis

“L'expression ” Human in the loop » figure souvent dans les politiques relatives à l'IA sans que l'on précise ce que cette personne est censée faire.

L'intervention humaine peut répondre à plusieurs objectifs. Un employé peut vérifier les informations sous-jacentes, interpréter des circonstances exceptionnelles, autoriser une action qui en découle ou interrompre le fonctionnement du système lorsque ses performances se détériorent.

Chaque fonction nécessite des informations et des pouvoirs différents.

Un évaluateur ne doit pas se contenter de consulter la recommandation finale du modèle. Il peut avoir besoin d'accéder aux données pertinentes, au niveau de confiance, aux règles métier et aux raisons pour lesquelles le cas a été signalé.

L'interface devrait également permettre l'expression d'un désaccord. Lorsque le système affiche un seul gros bouton de recommandation et masque les autres options, il incite subtilement à l'adhésion.

Les organisations devraient évaluer à quelle fréquence les réviseurs dérogent au modèle et ce qui se passe par la suite. L'absence totale de dérogations peut être le signe d'un modèle d'une qualité exceptionnelle, mais elle peut également révéler un biais lié à l'automatisation ou un processus de révision qui n'existe que sur le papier.

Les droits de décision doivent être clairement définis

L'IA engendre une ambiguïté organisationnelle lorsque personne ne sait à qui revient la responsabilité du résultat.

L'équipe chargée des données peut élaborer le modèle, un éditeur de logiciels peut l'héberger et un service opérationnel peut utiliser les recommandations. En cas de problème, chaque partie peut faire valoir que c'est une autre qui a pris la décision en question.

Les responsabilités doivent être attribuées avant le déploiement.

Le dirigeant de l'entreprise doit définir l'objectif et les compromis acceptables. Les équipes techniques doivent être responsables du développement et des performances du modèle. Les services chargés des risques, des affaires juridiques et de la conformité doivent mettre en place les contrôles nécessaires. La direction générale doit approuver le niveau d'autonomie.

Le prestataire externe reste responsable du respect de ses obligations contractuelles, mais l'entreprise qui utilise le système ne peut pas déléguer ses responsabilités envers ses clients, ses salariés ou les autorités de régulation.

Un journal des décisions doit indiquer quel modèle et quelles règles ont été utilisés, quelle recommandation a été formulée, si une personne est intervenue et quelle mesure a été prise par la suite. Cela permet de mener des analyses et d'apporter des améliorations.

La qualité des données détermine la qualité des décisions

Les systèmes d'aide à la décision s'appuient sur des informations collectées à des fins qui peuvent différer de leur nouvelle utilisation.

Les dossiers clients peuvent être incomplets, les codes produit incohérents et les résultats opérationnels mal consignés. Les services peuvent définir un même indicateur de manière différente. Des exceptions importantes peuvent n'exister que dans des e-mails ou dans la mémoire des employés.

Un modèle peut atténuer ces faiblesses en les transformant en une recommandation bien formulée.

Avant la mise en service, l'organisation doit déterminer quelles sont les sources faisant autorité, comment les informations manquantes sont traitées et qui est chargé d'apporter les corrections. Les données doivent être représentatives de la population et des conditions dans lesquelles le système fonctionnera.

Les données en temps réel doivent également être considérées avec prudence. La rapidité ne garantit pas la précision. Une donnée enregistrée avec un certain retard, mais dont les informations ont été validées, peut s'avérer plus utile pour une décision financière qu'un flux immédiat contenant des erreurs et des doublons.

L'IA générative devrait fournir des explications détaillées

L'IA générative peut faciliter l'utilisation des systèmes d'aide à la décision en permettant aux responsables de poser des questions en langage courant. Elle peut résumer les éléments d'information, générer des scénarios et expliquer pourquoi une recommandation a été formulée.

Le risque est que le modèle linguistique ajoute une explication qui semble plausible, mais qui ne reflète pas fidèlement le modèle sous-jacent ou les règles métier.

Une explication doit être élaborée à partir d'éléments vérifiables, et non inventée a posteriori. Le responsable doit pouvoir consulter les données pertinentes et comprendre quels facteurs ont influencé de manière significative la recommandation.

Les outils génératifs devraient également faire la distinction entre les faits et les hypothèses. “ La demande a baissé de 12 % le mois dernier ” n’est pas la même chose que “ les clients réagissent peut-être à la hausse des prix ”.

L'interface conversationnelle est utile lorsqu'elle facilite l'accès aux données factuelles. Elle devient dangereuse lorsque l'éloquence est confondue avec la validité analytique.

Les agents aggravent les conséquences d'une erreur

Les agents IA sont capables d'effectuer plusieurs étapes, d'utiliser des outils logiciels et de lancer des actions, plutôt que de se contenter de formuler une recommandation.

Un agent peut détecter un niveau de stock insuffisant, comparer les fournisseurs, préparer une commande et la soumettre pour validation. Un système plus autonome pourrait passer la commande directement, dans les limites prédéfinies.

Cela peut permettre de réduire les retards, mais chaque action supplémentaire accroît l'impact potentiel d'une erreur. Un récapitulatif erroné est simplement gênant. En revanche, une commande, un paiement ou une communication avec le client erronés peuvent entraîner des préjudices financiers et nuire à la réputation de l'entreprise.

L'autonomie doit être renforcée progressivement. Commencez par un accès en lecture seule et des recommandations. Introduisez des actions restreintes une fois que les performances sont bien comprises, puis exigez une validation au-delà des seuils définis.

Le système ne doit pas pouvoir étendre ses propres autorisations. Les limites de transaction, les contreparties autorisées et les actions interdites doivent être imposées en dehors du modèle dans la mesure du possible.

Il est indispensable de disposer d'un mécanisme d'arrêt clair et d'une solution de secours manuelle.

Mesurer les décisions, et non l'activité des modèles

Les programmes d'IA indiquent souvent le nombre d'utilisateurs, de requêtes, de prédictions ou de tâches automatisées. Ces indicateurs reflètent davantage l'activité que la valeur commerciale.

Un projet d'intelligence décisionnelle doit être évalué à l'aune du résultat qu'il était censé améliorer.

En matière de gestion des stocks, cela peut concerner la disponibilité des produits, les dépréciations et le fonds de roulement. En matière de service client, cela peut concerner la résolution adéquate des problèmes, les contacts répétés et les réclamations. En matière de lutte contre la fraude, cela peut concerner les pertes évitées, les faux positifs et les coûts d'enquête.

L'entreprise devrait comparer le nouveau processus à une référence fiable et prendre en compte l'ensemble des coûts : logiciels, intégration, évaluation du personnel, erreurs, formation et maintenance.

Il devrait également prendre en compte les effets indésirables. Un système qui augmente les ventes tout en générant davantage d'annulations ou de réclamations n'améliore peut-être pas la situation globale de l'entreprise.

Qu'est-ce qui vaut la peine d'être payé ?

L'intégration à des systèmes opérationnels fiables a souvent plus de valeur que l'accès au tout dernier modèle. Les recommandations n'apportent que peu de valeur ajoutée lorsque les employés doivent recopier manuellement les informations ou ne peuvent pas donner suite aux résultats.

Les capacités d'évaluation et de suivi sont également essentielles. L'entreprise a besoin de cas de test représentatifs, de tableaux de bord de performance et d'alertes en cas de changement des données ou des résultats.

Les outils de simulation peuvent s'avérer utiles, car ils permettent aux responsables de comparer différentes options plutôt que de se voir proposer une seule réponse sans explication.

La formation doit mettre l'accent sur le processus décisionnel, et non pas simplement sur les consignes de rédaction. Les employés doivent comprendre ce que le système sait, quels facteurs il ne prend pas en compte et dans quels cas une escalade est nécessaire.

Une validation indépendante peut se justifier pour les applications à fort impact, en particulier lorsque les décisions ont des répercussions sur la sécurité, l'emploi, le crédit ou les services réglementés.

Ce qui pourrait être superflu

Une entreprise n'a pas besoin d'un modèle d'apprentissage automatique pour chaque règle opérationnelle. Les décisions stables et faciles à expliquer peuvent être gérées plus efficacement à l'aide de logiciels classiques et de politiques claires.

Une plateforme d'entreprise complète peut également s'avérer superflue lorsque l'organisation n'a pas identifié un petit nombre de cas d'utilisation pertinents.

Les jumeaux numériques, les agents autonomes et les systèmes prédictifs en temps réel peuvent devenir des symboles coûteux de l'innovation lorsque le processus sous-jacent reste fragmenté.

Les entreprises doivent se méfier des fournisseurs qui présentent l'« intelligence décisionnelle » comme une couche universelle capable d'optimiser l'ensemble de l'organisation. Chaque décision implique en effet des données, des conséquences et des normes de preuve qui lui sont propres.

Une gouvernance centralisée peut mettre en place des contrôles communs, mais leur mise en œuvre doit rester adaptée au flux de travail concerné.

Une échelle pratique pour l'automatisation de la prise de décision

Niveau 1 : Assistance à l'information

L'IA récupère, organise ou résume les éléments de preuve. C'est une personne qui prend la décision finale.

Niveau 2 : Recommandation

Le système propose une action et fournit des informations complémentaires. Une personne l'approuve ou la rejette.

Niveau 3 : Automatisation conditionnelle

Le système prend des décisions courantes et à faible risque dans un cadre bien défini, et transmet les exceptions à un responsable.

Niveau 4 : Autonomie supervisée

Le système exécute des actions en plusieurs étapes, tandis que des personnes surveillent les résultats et peuvent intervenir.

Niveau 5 : Grande autonomie

Le système gère un processus décisionnel important avec une intervention manuelle limitée.

La plupart des organisations ne devraient pas commencer au niveau cinq. Le niveau approprié dépend de la réversibilité, de l'exposition financière, des conséquences juridiques, de la qualité des données et de la capacité de l'organisation à détecter les défaillances.

Une décision de réapprovisionnement de faible valeur et réversible peut justifier le recours à l'automatisation. Une décision ayant des répercussions sur l'emploi, la santé ou le crédit peut nécessiter un examen même lorsque le modèle est d'une grande précision.

Même le meilleur système d'aide à la décision peut parfois recommander de ne rien faire

Les technologies d'entreprise sont souvent valorisées pour leur capacité à susciter l'action. Or, un bon système d'aide à la décision devrait être capable de détecter les cas où les données sont insuffisantes, où le bénéfice attendu est faible ou encore où des informations complémentaires sont nécessaires.

La capacité à s'abstenir revêt une importance particulière dans des conditions inconnues. Un système ne devrait pas être contraint de fournir une recommandation certaine dans tous les cas.

Des seuils d'incertitude permettent de renvoyer les situations ambiguës vers des spécialistes. L'entreprise doit également définir les conditions dans lesquelles le modèle est entièrement suspendu, par exemple en cas de choc majeur sur les marchés ou de défaillance d'une source de données essentielle.

L'intelligence décisionnelle atteint sa maturité lorsqu'elle améliore tant la qualité de la retenue que celle de l'action.

L'intelligence décisionnelle basée sur l'IA peut aider les entreprises à prendre plus rapidement et de manière plus cohérente les nombreux choix opérationnels auxquels elles sont confrontées. Sa valeur réside dans le fait qu'elle relie les prévisions à des règles explicites, à des responsabilités et à des résultats mesurables.

Il ne doit pas servir à masquer des divergences stratégiques, à transformer des prévisions incertaines en faits apparents ou à confier la responsabilité à un algorithme. Les systèmes les plus performants montrent ce qu’ils savent, reconnaissent ce qu’ils ignorent et laissent une marge de manœuvre crédible à l’intervention humaine.

L'avantage concurrentiel n'appartiendra pas simplement aux entreprises qui automatisent le plus grand nombre de décisions. Il reviendra à celles qui savent quelles décisions méritent d'être automatisées, lesquelles nécessitent un jugement et comment déterminer à quel moment le système n'est plus d'une aide utile.