Quando un’azienda dovrebbe lasciare che l’intelligenza artificiale influenzi una decisione?

L’IA è in grado di prevedere la domanda, classificare le opportunità di vendita, suggerire prezzi e individuare transazioni che sembrano insolite. Può elaborare più informazioni di quante un team dirigenziale possa esaminare manualmente e generare raccomandazioni quasi istantaneamente. Ciò non significa però che la raccomandazione sia corretta, commercialmente sensata o adatta all’esecuzione automatica. Il vero valore della «decision intelligence» non sta nel sostituire il giudizio umano, ma nel rendere le decisioni ricorrenti più coerenti, misurabili e più facilmente verificabili.

Per i dirigenti aziendali, la questione fondamentale non è quindi se l’IA sia in grado di fornire una risposta, bensì quali decisioni debbano essere supportate da un modello, quali possano essere tranquillamente automatizzate e quali debbano invece rimanere sotto un controllo umano effettivo.

L'intelligenza decisionale è molto più di una semplice previsione

L'intelligenza decisionale combina dati, modelli analitici, regole aziendali e processi operativi per migliorare il modo in cui un'organizzazione prende le proprie decisioni.

Un modello predittivo potrebbe stimare la probabilità che un cliente disdica un abbonamento. La “decision intelligence” va oltre, collegando tale previsione a una possibile azione. L’azienda potrebbe offrire uno sconto, organizzare un intervento di assistenza, non intraprendere alcuna azione oppure dare priorità a quel cliente affinché venga esaminato da un operatore umano.

La previsione e la decisione non sono la stessa cosa. Un cliente potrebbe avere un’alta probabilità di andarsene, ma la sua fidelizzazione potrebbe non essere redditizia. Un altro potrebbe sembrare poco incline a recedere dal contratto, ma essere strategicamente importante. I vincoli aziendali, i costi e il trattamento riservato ai clienti devono essere considerati insieme alle stime del modello.

Un sistema decisionale efficace deve quindi comprendere almeno quattro componenti:

• Informazioni attendibili sulla situazione attuale
• Un modello o un metodo analitico che stima i possibili esiti
• Regole che definiscono quali azioni sono consentite
• Un processo per monitorare ciò che è accaduto in seguito

Senza quest'ultimo elemento, l'organizzazione potrebbe automatizzare le decisioni senza poter verificare se queste abbiano migliorato l'andamento dell'azienda.

Inizia con decisioni ripetute

L'intelligenza artificiale è particolarmente utile nei casi in cui una decisione venga presa frequentemente, segua una struttura riconoscibile e generi un numero sufficiente di risultati per valutare le prestazioni.

Tra gli esempi figurano la scelta di quali segnalazioni di frode richiedano un approfondimento, la quantità di merce da inviare a un negozio, quale richiesta di manutenzione sia più urgente o quale richiesta di un cliente debba essere inoltrata a uno specialista.

Queste decisioni sono spesso troppo numerose per poter essere esaminate singolarmente dai dirigenti di alto livello, ma sono talmente importanti che qualsiasi incoerenza comporta dei costi.

L'intelligenza artificiale risulta meno evidentemente utile nel caso di decisioni strategiche rare, come l'ingresso in un nuovo Paese, l'acquisizione di un concorrente o la sostituzione dell'amministratore delegato. I dati storici potrebbero essere limitati, il contesto potrebbe essere unico e le conseguenze difficili da invertire.

Un modello può comunque supportare tali decisioni organizzando i dati, elaborando scenari e individuando le ipotesi. Non dovrebbe però dare l’impressione che una scelta strategica senza precedenti si sia trasformata in un calcolo oggettivo.

Il punto di partenza più solido è solitamente una decisione operativa su larga scala, con una linea di riferimento chiara e conseguenze limitate nel caso in cui il modello commetta un errore.

Analizzare il processo decisionale esistente prima di integrare l'IA

Molte aziende introducono l'intelligenza artificiale in un processo che non hanno mai analizzato a fondo.

Prima di scegliere un modello, documentate come viene presa la decisione attualmente. Chi fornisce le informazioni? Quali regole sono formali e quali esistono solo nell’esperienza dei dipendenti? Dove si verificano ritardi e incongruenze? Chi è responsabile del risultato?

Questo esercizio potrebbe rivelare che il problema non è da ricercarsi in un’intelligenza insufficiente. L’organizzazione potrebbe avere politiche contrastanti, dati inadeguati, procedure di approvazione lente o mancanza di consenso sull’obiettivo.

Ad esempio, a un team responsabile della politica dei prezzi potrebbe essere chiesto contemporaneamente di massimizzare il margine, aumentare la quota di mercato e mantenere la fiducia dei clienti. Un sistema di intelligenza artificiale non può risolvere tale conflitto strategico a meno che la dirigenza non decida come bilanciare tali obiettivi.

L'automazione applicata a un processo poco chiaro spesso rende l'ambiguità ancora più difficile da individuare. Il sistema fornisce una raccomandazione precisa, ma l'organizzazione continua a non disporre di una definizione coerente di successo.

Prevedere la domanda è utile, ma non è una certezza

La previsione della domanda è una delle applicazioni più affidabili della “decision intelligence”. I rivenditori e i produttori possono combinare i dati storici sulle vendite, le promozioni, la stagionalità, le condizioni meteorologiche e le tendenze locali per stimare ciò che i clienti potrebbero acquistare.

Previsioni più accurate possono ridurre le eccedenze di magazzino e le opportunità di vendita perse. Possono inoltre aiutare a definire il personale necessario, i trasporti e i programmi di produzione.

Il limite è che i modelli apprendono dalle condizioni precedenti. L'arrivo di un nuovo concorrente, un'interruzione delle forniture, una tendenza virale o uno shock economico improvviso potrebbero rendere il passato recente una guida poco affidabile.

Le previsioni dovrebbero quindi essere presentate sotto forma di intervalli o scenari, piuttosto che come un unico dato preciso. I manager devono comprendere quali ipotesi stanno alla base del risultato e quanto la raccomandazione sia sensibile ai cambiamenti.

Un modello che stima la domanda a 10.000 unità non dovrebbe indurre l'organizzazione ad agire come se il dato di 10.000 fosse certo. La decisione potrebbe invece essere quella di ordinare immediatamente 8.000 unità, riservare capacità produttiva per altre 3.000 e monitorare l'andamento iniziale della domanda.

Il valore sta nel dare un ordine all’incertezza, piuttosto che fingere che sia scomparsa.

La definizione dei prezzi richiede limiti chiari

L'intelligenza artificiale è in grado di analizzare la domanda, le scorte, la concorrenza e il comportamento dei clienti per suggerire prezzi o promozioni. In contesti caratterizzati da volumi elevati, ciò può consentire a un'azienda di reagire più rapidamente rispetto a un team che modifica i prezzi manualmente.

La politica dei prezzi dinamica può aumentare i ricavi e ridurre gli sprechi. Può però anche minare la fiducia dei clienti quando questi ultimi ritengono di essere trattati in modo ingiusto o non riescono a comprendere il motivo delle variazioni di prezzo.

Un sistema decisionale necessita di limiti espliciti. Questi possono includere prezzi minimi e massimi, restrizioni sui dati che possono essere utilizzati e regole che impediscano modifiche durante situazioni di emergenza o circostanze delicate.

L'organizzazione dovrebbe inoltre distinguere tra le differenze basate sui costi o sulla domanda e quelle basate sulle ipotesi relative a quanto un singolo cliente possa essere indotto a pagare.

Una raccomandazione efficace dal punto di vista commerciale può comunque risultare inaccettabile dal punto di vista legale o reputazionale. Il sistema deve rispecchiare la politica aziendale, non limitarsi a seguire il modello che con maggiore probabilità aumenterebbe i ricavi a breve termine.

Le catene di approvvigionamento hanno bisogno di scenari piuttosto che di risposte

L'intelligenza decisionale può aiutare le aziende a individuare i fornitori vulnerabili, anticipare i ritardi e confrontare percorsi alternativi o strategie di gestione delle scorte.

Ciò risulta particolarmente utile quando una catena di approvvigionamento comprende migliaia di prodotti e fornitori i cui rischi si influenzano a vicenda. Un ritardo in una fase della catena può ripercuotersi su diversi stabilimenti, contratti con i clienti e piani di trasporto.

Il modello è in grado di stabilire quali problemi meritino maggiore attenzione e di stimare le conseguenze delle diverse risposte. Non è però in grado di prevedere con precisione come si evolverà una guerra, la chiusura di un porto o una restrizione imposta dal governo.

I sistemi di gestione della catena di approvvigionamento dovrebbero quindi supportare la pianificazione degli scenari. Cosa succederebbe se un fornitore fosse indisponibile per due settimane anziché per due mesi? A quali clienti dare la priorità? Quale costo aggiuntivo l’azienda sarebbe disposta ad accettare per garantire la continuità operativa?

La scelta finale può dipendere dai rapporti contrattuali, dalla sicurezza, dalla reputazione e dai clienti strategici, elementi che non sempre è possibile dedurre dai soli dati relativi alle transazioni.

Le decisioni in materia di credito e assicurazioni comportano rischi più elevati

Le banche e le compagnie assicurative utilizzano modelli per stimare il rischio di insolvenza, frode e sinistri. L'intelligenza artificiale può individuare relazioni complesse ed elaborare le richieste più rapidamente rispetto ai metodi tradizionali.

Queste decisioni incidono direttamente sull’accesso a mutui, prestiti, assicurazioni e altri servizi importanti. Eventuali errori possono comportare svantaggi per i singoli e creare rischi legali e normativi.

I dati storici possono anche riflettere episodi di discriminazione avvenuti in passato o disparità di accesso. Un modello può riprodurre tale andamento senza ricorrere a una caratteristica esplicitamente protetta. La località di residenza, la storia lavorativa o il comportamento di acquisto possono fungere da indicatori indiretti.

I sistemi ad alto impatto richiedono test, spiegazioni e revisioni più approfonditi. L'organizzazione dovrebbe esaminare i risultati tra i gruppi interessati e fornire alle persone la possibilità di contestare o correggere una decisione.

La revisione umana deve essere autentica. Chiedere a un dipendente di approvare centinaia di raccomandazioni relative ai modelli ogni giorno non garantisce un controllo significativo se il dipendente non dispone del tempo, delle informazioni o dell'autorità necessari per esprimere il proprio dissenso.

Il modello dovrebbe competere con un'alternativa più semplice

Le aziende spesso valutano un sistema di intelligenza artificiale sofisticato partendo dal presupposto che non esista alcun supporto analitico.

Il confronto più significativo è quello con il metodo più semplice in grado di risolvere il problema. Una regola aziendale chiara, un modello statistico o un dashboard più efficace potrebbero garantire prestazioni quasi equivalenti a un costo inferiore e con maggiore trasparenza.

Un modello complesso merita di essere implementato solo quando la maggiore accuratezza o flessibilità che offre modifica il risultato economico in misura tale da giustificarne lo sviluppo, l'integrazione e la gestione.

Il confronto dovrebbe includere:

• Precisione e costo dei diversi tipi di errore
• Velocità e capacità operativa
• Requisiti relativi ai dati e alle infrastrutture
• Facilità di spiegazione
• Manutenzione e monitoraggio
• Dipendenza da fornitori esterni
• Le conseguenze del fallimento

Un miglioramento dell'accuratezza dal 90 al 92 per cento può rivelarsi prezioso in milioni di transazioni a basso rischio. Può invece risultare inadeguato quando gli errori residui impediscono alle persone di accedere a servizi essenziali o comportano gravi rischi per la sicurezza.

La precisione media, di per sé, non è determinante ai fini dell'idoneità.

La supervisione umana deve avere uno scopo specifico

“L'espressione ”Human in the loop” viene spesso inserita nelle politiche sull'intelligenza artificiale senza definire quale sia il ruolo che tale persona dovrebbe svolgere.

Il controllo umano può servire a diversi scopi. Un dipendente può verificare le informazioni sottostanti, interpretare circostanze eccezionali, autorizzare un’azione conseguente o arrestare il sistema quando le prestazioni peggiorano.

Ogni ruolo richiede informazioni e poteri diversi.

Chi effettua la revisione dovrebbe poter vedere qualcosa di più della semplice raccomandazione finale del modello. Potrebbe infatti aver bisogno di accedere alle prove pertinenti, al livello di confidenza, alle regole aziendali e alle motivazioni per cui il caso è stato segnalato.

L'interfaccia dovrebbe anche consentire di esprimere il proprio disaccordo. Quando il sistema presenta un unico grande pulsante di raccomandazione e nasconde le alternative, incoraggia in modo sottile l'approvazione.

Le organizzazioni dovrebbero valutare con quale frequenza i revisori scavalcano il modello e cosa succede in seguito. L’assenza di scavalcamenti potrebbe indicare una qualità eccezionale del modello, ma potrebbe anche rivelare un bias di automazione o un processo di revisione che esiste solo sulla carta.

I diritti decisionali devono essere espliciti

L'intelligenza artificiale crea ambiguità organizzativa quando nessuno sa a chi spetti la responsabilità del risultato.

Il team addetto ai dati potrebbe sviluppare il modello, un fornitore di software potrebbe ospitarlo e un reparto operativo potrebbe avvalersi dei consigli forniti. Quando qualcosa va storto, ciascuna delle parti potrebbe sostenere che la decisione in questione sia stata presa da un’altra.

Le responsabilità dovrebbero essere assegnate prima della messa in opera.

Il titolare dell'azienda dovrebbe definire l'obiettivo e i compromessi accettabili. I team tecnici dovrebbero essere responsabili dello sviluppo e delle prestazioni dei modelli. Le funzioni di gestione dei rischi, legale e di conformità dovrebbero stabilire i controlli necessari. L'alta dirigenza dovrebbe approvare il livello di autonomia.

Il fornitore esterno rimane responsabile dei propri obblighi contrattuali, ma l'azienda che utilizza il sistema non può esternalizzare i propri obblighi nei confronti dei clienti, dei dipendenti o delle autorità di regolamentazione.

Un registro delle decisioni dovrebbe indicare quale modello e quali regole sono stati utilizzati, quale raccomandazione è stata formulata, se è intervenuta una persona e quale azione è stata intrapresa. Ciò rende possibili l'analisi e il miglioramento.

La qualità dei dati determina la qualità delle decisioni

I sistemi decisionali si basano su informazioni raccolte per finalità che possono differire dal nuovo utilizzo.

I dati relativi ai clienti potrebbero essere incompleti, i codici dei prodotti incoerenti e i risultati operativi registrati in modo inadeguato. I vari reparti potrebbero definire lo stesso indicatore in modo diverso. Eccezioni importanti potrebbero essere riportate solo nelle e-mail o nella memoria dei dipendenti.

Un modello può rendere meno evidenti questi punti deboli trasformandoli in una raccomandazione ben strutturata.

Prima della messa in opera, l’organizzazione dovrebbe stabilire quali siano le fonti attendibili, come trattare le informazioni mancanti e chi sia responsabile delle correzioni. I dati dovrebbero rispecchiare la popolazione e le condizioni in cui il sistema opererà.

Anche i dati in tempo reale richiedono cautela. La velocità non garantisce l'accuratezza. Un dato registrato in ritardo ma poi riconciliato può rivelarsi più utile ai fini di una decisione finanziaria rispetto a un flusso immediato contenente errori e duplicati.

L'IA generativa dovrebbe fornire spiegazioni accurate

L'IA generativa può rendere i sistemi decisionali più facili da usare, consentendo ai manager di porre domande in linguaggio naturale. Può sintetizzare i dati, generare scenari e spiegare il motivo alla base di una raccomandazione.

Il rischio è che il modello linguistico aggiunga una spiegazione che sembri plausibile ma che non rifletta fedelmente il modello sottostante o le regole aziendali.

Una spiegazione dovrebbe basarsi su prove verificabili, non essere inventata a posteriori. Il responsabile dovrebbe essere in grado di consultare i dati pertinenti e comprendere quali fattori abbiano influito in modo significativo sulla raccomandazione.

Gli strumenti generativi dovrebbero inoltre distinguere i fatti dalle supposizioni. “La domanda è diminuita del 12% il mese scorso” è diverso da “i clienti potrebbero reagire all’aumento dei prezzi”.

L'interfaccia conversazionale è utile quando migliora l'accesso alle prove. Diventa pericolosa quando l'eloquenza viene scambiata per validità analitica.

Gli agenti aumentano la gravità dell'errore

Gli agenti basati sull'intelligenza artificiale sono in grado di eseguire diverse operazioni, utilizzare strumenti software e avviare azioni, anziché limitarsi a fornire una semplice raccomandazione.

Un operatore potrebbe rilevare una scorta insufficiente, confrontare i fornitori, preparare un ordine e inviarlo per l'approvazione. Un sistema più autonomo potrebbe effettuare l'ordine direttamente, entro limiti predefiniti.

Ciò può ridurre i ritardi, ma ogni azione aggiuntiva aumenta il potenziale impatto di un errore. Un riepilogo errato è semplicemente fastidioso. Un ordine, un pagamento o una comunicazione al cliente errati possono causare danni immediati sia dal punto di vista finanziario che reputazionale.

L'autonomia dovrebbe aumentare gradualmente. Iniziare con l'accesso in sola lettura e i suggerimenti. Introdurre azioni soggette a restrizioni una volta valutate le prestazioni, quindi richiedere l'approvazione al superamento delle soglie definite.

Il sistema non dovrebbe poter ampliare le proprie autorizzazioni. I limiti delle transazioni, le controparti approvate e le azioni vietate devono essere applicati al di fuori del modello, ove possibile.

È fondamentale disporre di un meccanismo di spegnimento ben definito e di una soluzione alternativa manuale.

Misurate le decisioni, non l'attività del modello

I programmi di intelligenza artificiale riportano spesso il numero di utenti, di prompt, di previsioni o di attività automatizzate. Questi indicatori riflettono l'attività piuttosto che il valore aziendale.

Un progetto di "decision-intelligence" dovrebbe essere valutato in base al risultato che si intendeva migliorare.

Per quanto riguarda le scorte, ciò può includere la disponibilità delle scorte, le svalutazioni e il capitale circolante. Per quanto riguarda il servizio clienti, ciò può includere la corretta risoluzione dei problemi, i contatti ripetuti e i reclami. Per quanto riguarda le frodi, ciò può includere le perdite evitate, i falsi positivi e i costi delle indagini.

L'azienda dovrebbe confrontare il nuovo processo con un punto di riferimento attendibile e tenere conto di tutti i costi: software, integrazione, valutazione dei dipendenti, errori, formazione e manutenzione.

Dovrebbe inoltre misurare gli effetti indesiderati. Un sistema che aumenta le vendite ma genera al contempo un maggior numero di cancellazioni o reclami potrebbe non migliorare l'andamento complessivo dell'azienda.

Per cosa vale la pena spendere?

L'integrazione con sistemi operativi affidabili spesso ha più valore dell'accesso al modello più recente. I consigli creano poco valore quando i dipendenti devono copiare le informazioni manualmente o non possono agire in base al risultato.

Anche le funzionalità di valutazione e monitoraggio sono fondamentali. L'azienda ha bisogno di casi di test rappresentativi, dashboard delle prestazioni e avvisi in caso di variazioni dei dati o dei risultati.

Gli strumenti di simulazione possono rivelarsi utili perché consentono ai manager di confrontare diverse opzioni anziché ricevere un'unica risposta non motivata.

La formazione dovrebbe concentrarsi sul processo decisionale, non semplicemente sulle indicazioni di scrittura. I dipendenti devono comprendere quali informazioni sono in possesso del sistema, quali fattori vengono tralasciati e quando è necessario ricorrere all’escalation.

Una convalida indipendente può essere giustificata per applicazioni di grande rilevanza, in particolare quando le decisioni incidono sulla sicurezza, sull’occupazione, sul credito o sui servizi regolamentati.

Cosa potrebbe non essere necessario

Un'azienda non ha bisogno di un modello di apprendimento automatico per ogni regola operativa. Le decisioni stabili e facilmente spiegabili possono essere gestite in modo più efficace tramite software standard e politiche chiare.

Una piattaforma aziendale completa potrebbe rivelarsi eccessiva se l'organizzazione non ha individuato un numero limitato di casi d'uso significativi.

I gemelli digitali, gli agenti autonomi e i sistemi predittivi in tempo reale possono trasformarsi in costosi simboli di innovazione quando il processo sottostante rimane frammentato.

Le aziende dovrebbero diffidare dei fornitori che presentano la “decision intelligence” come uno strumento universale in grado di ottimizzare l’intera organizzazione. Decisioni diverse comportano dati, conseguenze e standard di prova diversi.

Una governance centralizzata può fornire controlli comuni, ma l'attuazione dovrebbe rimanere specifica per ogni flusso di lavoro.

Una scala pratica per l'automazione del processo decisionale

Livello uno: Supporto informativo

L'intelligenza artificiale recupera, organizza o sintetizza le prove. È una persona a prendere la decisione finale.

Livello due: Raccomandazione

Il sistema propone un'azione e fornisce informazioni a supporto. Una persona la approva o la respinge.

Livello tre: Automazione condizionale

Il sistema esegue decisioni di routine a basso rischio entro limiti ristretti e segnala le eccezioni a una persona.

Livello quattro: autonomia supervisionata

Il sistema esegue azioni articolate in più fasi, mentre il personale ne monitora i risultati e può intervenire.

Livello cinque: Elevata autonomia

Il sistema gestisce un importante processo decisionale con un intervento di routine limitato.

La maggior parte delle organizzazioni non dovrebbe partire dal livello cinque. Il livello appropriato dipende dalla reversibilità, dall’esposizione finanziaria, dall’impatto legale, dalla qualità dei dati e dalla capacità dell’organizzazione di rilevare eventuali malfunzionamenti.

Una decisione di rifornimento di modesto valore e reversibile può giustificare l’automazione. Una decisione che incide sull’occupazione, sulla sanità o sul credito può richiedere una revisione anche quando il modello è altamente accurato.

Il miglior sistema decisionale a volte può consigliare di non fare nulla

La tecnologia aziendale viene spesso premiata per la sua capacità di stimolare l’azione. Tuttavia, un buon sistema decisionale dovrebbe riconoscere quando le prove sono deboli, il beneficio atteso è modesto o sono necessarie ulteriori informazioni.

La capacità di astenersi è particolarmente importante in contesti non familiari. Un sistema non dovrebbe essere costretto a fornire una raccomandazione certa per ogni singolo caso.

Le soglie di incertezza possono indirizzare le situazioni ambigue verso gli specialisti. L’azienda dovrebbe inoltre definire le condizioni in cui il modello viene sospeso del tutto, come ad esempio in caso di uno shock di mercato di grande entità o di un’interruzione di una fonte di dati fondamentale.

L'intelligenza decisionale raggiunge la maturità quando migliora sia la qualità dell'autocontrollo che quella dell'azione.

L'intelligenza decisionale basata sull'intelligenza artificiale può aiutare le aziende a prendere decisioni operative frequenti in modo più rapido e coerente. Il suo valore deriva dal collegare le previsioni a regole esplicite, responsabilità e risultati misurabili.

Non dovrebbe essere utilizzato per nascondere divergenze strategiche, trasformare previsioni incerte in fatti apparenti o attribuire la responsabilità a un algoritmo. I sistemi più efficaci mostrano ciò che sanno, ammettono ciò che non sanno e lasciano spazio a un coinvolgimento umano credibile.

Il vantaggio competitivo non spetterà semplicemente alle aziende che automatizzano il maggior numero di decisioni. Spetterà invece a quelle che sanno quali decisioni meritano di essere automatizzate, quali richiedono un giudizio e come capire quando il sistema non è più d’aiuto.