Oltre la Spiegazione Singola: Navigare il Multiverso delle Possibilità Controfattuali

Ciao a tutti! Oggi voglio parlarvi di qualcosa che mi affascina da morire nel mondo dell’Intelligenza Artificiale e del Machine Learning: le spiegazioni controfattuali. Sapete, quelle risposte tipo “cosa sarebbe successo se…?” che cerchiamo di ottenere dai modelli predittivi, specialmente quelli più complessi e opachi. Sono fondamentali, non solo perché ce lo chiedono le normative, ma perché ci aiutano a capire *perché* un’IA ha preso una certa decisione e, soprattutto, *cosa* potremmo cambiare per ottenere un risultato diverso.

Pensate a quando una banca vi nega un prestito basandosi su un modello automatico. Una spiegazione controfattuale potrebbe dirvi: “Se il tuo reddito fosse stato X euro più alto, avresti ottenuto il prestito”. Utile, vero? Ma c’è un “ma”. Anzi, ce ne sono parecchi.

Il Limite delle Spiegazioni Tradizionali: Destinazione Senza Mappa

Il problema è che spesso ci fermiamo lì. Ci viene data la “destinazione” (il reddito più alto, nel nostro esempio), ma non la “mappa” per arrivarci. E se anche ci fosse una mappa, spesso ne esiste solo una, quella considerata “ottimale” secondo qualche metrica (tipo la distanza minima dall’istanza originale, o il minor numero di cambiamenti).

Ma la vita reale è più complessa. Magari aumentare il reddito non è l’unica via. Forse potrei ridurre i debiti, o aumentare i risparmi. E anche se volessi aumentare il reddito, ci sono tanti modi per farlo: chiedere un aumento? Trovare un secondo lavoro? Cambiare completamente carriera? Ognuna di queste scelte implica un percorso diverso, con i suoi tempi, i suoi costi, le sue difficoltà.

Inoltre, i metodi attuali tendono a darci sì delle spiegazioni, a volte anche multiple, ma le trattano come entità separate, indipendenti. Non considerano come questi diversi percorsi potrebbero essere collegati, se si sovrappongono all’inizio, se divergono drasticamente, se magari si riuniscono più avanti. Ignorano la geometria intrinseca di queste traiettorie di cambiamento.

E qui entra in gioco un’idea che trovo potentissima: il concetto di multiverso esplicativo.

Benvenuti nel Multiverso Esplicativo: Dove i Percorsi Contano

Immaginate non solo una singola spiegazione controfattuale, o anche una manciata, ma un intero “universo” di possibili percorsi che portano dal vostro stato attuale (il “fatto”, es. prestito negato) a uno stato desiderato (il “controfattuale”, es. prestito concesso). Questo è il multiverso esplicativo.

In questo multiverso, ogni percorso ha una sua forma, una sua lunghezza, delle tappe intermedie. Alcuni percorsi potrebbero iniziare in modo simile per poi dividersi (ramificazione o branching), altri potrebbero correre paralleli per un po’ (mostrando affinità), altri ancora potrebbero divergere subito o convergere verso la stessa soluzione da direzioni diverse.

Considerare questa “geometria dei percorsi controfattuali” apre scenari completamente nuovi. Non ci limitiamo più a chiedere “qual è il cambiamento minimo?”, ma possiamo iniziare a ragionare su domande più profonde e utili:

• Quale percorso mi offre più opzioni lungo la strada?
• Se inizio un percorso, quanto mi preclude la possibilità di passare a un altro se cambio idea o le circostanze mutano?
• Quale percorso mi permette di rimandare le decisioni più vincolanti?

Nuovi Desiderata per Spiegazioni Davvero Utili

Questo ci porta a definire nuove proprietà desiderabili per le spiegazioni controfattuali, proprietà che sono intrinsecamente legate alla struttura del multiverso:

1. Agentività (Agency): Quante scelte reali ho a disposizione lungo un percorso? Un percorso che si ramifica presto in opzioni diverse e valide mi dà più potere decisionale, più agentività. Possiamo misurarla, ad esempio, con il “fattore di ramificazione”.
2. Perdita di Opportunità (Loss of Opportunity): Intraprendere un certo percorso potrebbe rendermene altri inaccessibili, magari perché richiede cambiamenti irreversibili (l’età può solo aumentare, ad esempio) o perché mi allontana troppo da altre soluzioni. È fondamentale capire quando e come un percorso chiude delle porte.
3. Complessità della Scelta (Choice Complexity): Alcuni percorsi potrebbero richiedere decisioni importanti e vincolanti molto presto, mentre altri permettono di “tenere aperte più porte” più a lungo. Un percorso che ritarda le ramificazioni significative riduce la complessità iniziale della scelta.

Pensate di nuovo al prestito. Un percorso potrebbe suggerire “cambia lavoro subito per uno stipendio più alto”. Un altro potrebbe dire “inizia un corso serale per migliorare le tue competenze, poi tra un anno cerca un lavoro migliore”. Il secondo percorso, pur magari più lungo, ritarda la decisione vincolante e potrebbe offrire più flessibilità nel frattempo.

Quantificare le Opportunità: Il “Potenziale di Opportunità”

Per mettere insieme tutte queste idee e poter confrontare i percorsi in modo oggettivo, abbiamo introdotto una metrica che chiamiamo potenziale di opportunità (opportunity potential). In parole povere, questa metrica cerca di rispondere alla domanda: “Quanto mi avvicino ad *altre* possibili soluzioni desiderabili mentre seguo il percorso verso una specifica soluzione?”.

Un percorso con un alto potenziale di opportunità è fantastico perché, anche se sto puntando a un obiettivo specifico (es. controfattuale A), le azioni che compio mi stanno avvicinando anche ad altri obiettivi validi (es. controfattuale B e C). Massimizza la mia flessibilità e le mie chance di successo, anche se le cose non vanno esattamente come pianificato per l’obiettivo A.

Abbiamo formalizzato questo concetto sia usando gli spazi vettoriali (particolarmente adatti per dati continui) sia tramite i grafi (ottimi per dati discreti o quando vogliamo seguire percorsi basati su istanze reali già osservate).

Mettere alla Prova il Multiverso: FACElift e gli Esperimenti

Bello sulla carta, ma funziona in pratica? Per dimostrarlo, abbiamo sviluppato un’implementazione concreta di queste idee, basata sui grafi, che abbiamo chiamato FACElift (è anche un pacchetto Python open source, se volete giocarci!). L’abbiamo testata su diversi dataset, sia tabellari (come quelli usati per valutare il credito o prevedere il reddito) sia di immagini (come il classico MNIST delle cifre scritte a mano, o dataset medici come MedMNIST con immagini di ecografie mammarie o radiografie polmonari).

Cosa abbiamo scoperto? Confrontando FACElift con altri metodi all’avanguardia che generano spiegazioni controfattuali, abbiamo visto un pattern chiaro:

• I metodi tradizionali tendono a trovare il percorso “più corto” o il cambiamento “minimo”.
• FACElift, ottimizzando per il potenziale di opportunità, spesso identifica percorsi leggermente più lunghi o che richiedono cambiamenti un po’ maggiori.
• MA questi percorsi offrono un potenziale di opportunità significativamente più alto! Danno all’utente molta più flessibilità e opzioni lungo la strada.

C’è quindi un trade-off: un piccolo aumento del “costo” del percorso (distanza) in cambio di un grande aumento dell’agentività e delle opportunità future. E spesso, nella vita reale, questa flessibilità vale molto di più di un piccolo risparmio iniziale.

Perché Tutto Questo è Importante? Oltre la Tecnica

Questo approccio del multiverso esplicativo non è solo un esercizio tecnico. Si collega profondamente a come noi umani ragioniamo con i controfattuali. Pensiamo in termini di “mondi possibili” (come diceva il filosofo Lewis), simuliamo mentalmente sequenze di eventi. Avere una mappa di questi percorsi possibili, con le loro geometrie e le loro interconnessioni, risuona con il nostro modo naturale di esplorare le alternative.

I benefici sono tangibili:

• Riduzione del carico cognitivo: Invece di essere sommersi da decine di spiegazioni apparentemente scollegate, possiamo navigare una struttura più organizzata, raggruppando percorsi simili.
• Supporto decisionale migliore: Possiamo fare scelte più informate, considerando non solo l’obiettivo finale ma anche la flessibilità del viaggio.
• Interattività: Si presta magnificamente a sistemi di spiegazione interattivi, dove l’utente esplora il multiverso passo dopo passo, magari in un dialogo con l’IA.
• Equità (Fairness): Ci permette anche di vedere se certi gruppi di persone hanno accesso a un “multiverso” più ristretto, con meno percorsi validi a disposizione, evidenziando potenziali disparità.

La Strada Davanti a Noi

Siamo solo all’inizio dell’esplorazione di questo multiverso. Ci sono tantissime direzioni future affascinanti: applicarlo a dati più complessi come le serie temporali o le sequenze di eventi (pensate alle cartelle cliniche elettroniche!), studiare la dinamica di questi sistemi (ci sono “turbolenze” o “punti stabili” nel multiverso?), approfondire le implicazioni causali e l’impatto della correttezza del modello sottostante. Vogliamo anche capire meglio come identificare i percorsi “rappresentativi” per semplificare ulteriormente la navigazione.

In conclusione, credo che pensare alle spiegazioni controfattuali non solo come destinazioni, ma come un multiverso di percorsi interconnessi con una loro geometria, sia un vero cambio di paradigma. Ci permette di costruire sistemi di IA non solo più trasparenti, ma anche più allineati con le esigenze umane di flessibilità, agentività e comprensione profonda. È un viaggio appena iniziato, ma le potenzialità sono immense!

Fonte: Springer