Lintelligenza artificiale spiegabile (, o XAI) comprende un insieme di metodi, tecniche e impianti teorici progettati per rendere interpretabili e comprensibili all'essere umano le decisioni, le predizioni e i processi di ragionamento dei modelli di apprendimento automatico e intelligenza artificiale (IA).

Con l'avvento delle reti neurali profonde (deep learning), molte architetture ad alte prestazioni funzionano come "scatole nere" (black box), garantendo un'elevata accuratezza predittiva a spese della trasparenza a livello logico del processo decisionale. La XAI mira a colmare questo divario fornendo strumenti per verificare l'equità (fairness), la robustezza, la sicurezza e la conformità normativa dei sistemi di IA in domini critici quali la medicina, la finanza e la giustizia.

Tassonomia delle tecniche

Le metodologie di spiegazione si possono classificare in base a diverse dimensioni fondamentali:

Spiegazione Ante-hoc o Post-hoc Ante-hoc (o intrinseca): il modello è strutturalmente trasparente e progettato per essere interpretabile (ad es. alberi di decisione di ridotta profondità, modelli di regressione lineare, modelli additivi generalizzati). Post-hoc: le spiegazioni vengono generate estraendo informazioni da un modello già addestrato ma opaco, senza modificarne la struttura o i parametri interni.

Spiegazione Model-Agnostic o Model-Specific Model-Agnostic: Tecniche applicabili a qualsiasi algoritmo di apprendimento poiché trattano il modello come una generica funzione . Model-Specific: Metodi per specifici modelli matematico-statistici come, ad esempio, le tecniche basate su gradiente utilizzate nelle reti neurali convoluzionali (CNN).

Spiegazioni Locali o Globali Locali: spiegano la singola predizione fornita dal modello per una specifico istanza in input. Globali: spiegano il comportamento complessivo dell'intero modello e l'influenza delle caratteristiche (feature) sull'intero insieme di dati.

Principali metodologie

LIME (Local Interpretable Model-agnostic Explanations) Sviluppato da Ribeiro et al. nel 2016, LIME approssima un modello complesso nell'intorno locale di un dato mediante un modello surrogato interpretabile (ad es. un modello lineare).

L'obiettivo del problema di ottimizzazione è espresso come:

dove: la loss misura l'infedeltà di nell'approssimare nell'intorno definito dalla misura di prossimità . il regolarizzatore penalizza la complessità del modello spiegabile .

Esempio Un modello di diagnosi medica predice che un paziente ha l'influenza. LIME perturba i sintomi del paziente (ad es. rimuovendo sintomi come la febbre o la tosse), analizza la variazione dell'output di ed evidenzia che la "febbre alta" e i "dolori articolari" sono le variabili che hanno fatto maggiormente aumentare la probabilità della diagnosi.

SHAP (SHapley Additive exPlanations) Introdotto da Lundberg e Lee nel 2017, SHAP si basa sulla teoria dei giochi cooperativi e calcola i valori di Shapley per assegnare a ciascuna caratteristica di input (variabile osservata) un valore di importanza relativo a una specifica predizione.

Il valore di Shapley per la caratteristica di indice è definito come:

dove è l'insieme di tutte le caratteristiche (i loro indici) e rappresenta un suo sottoinsieme che non include quella di indice . SHAP garantisce proprietà fondamentali quali l'efficienza, la simmetria, la neutralità e l'additività.

Grad-CAM (Gradient-weighted Class Activation Mapping) Grad-CAM è una tecnica post-hoc e model-specific che viene utilizzata primariamente con reti neurali convoluzionali per la visione artificiale. Essa sfrutta i gradienti dello score della classe di interesse rispetto alle mappe di attivazione dell'ultimo strato convoluzionale:

Si calcola poi una mappa di calore (heat map) finale come combinazione lineare ponderata seguita da una funzione ReLU:

Esempio In un sistema radiologico per individuare la tubercolosi, Grad-CAM sovrappone una mappa di calore alle radiografie del torace, evidenziando esattamente la regione polmonare opaca su cui la rete si è concentrata per emettere il giudizio clinico.

Spiegazioni Controfattuali Le spiegazioni controfattuali rispondono alla domanda: "Qual è la minima modifica necessaria alle caratteristiche di input per invertire il risultato del modello?"

Viene individuata un'istanza controfattuale risolvendo un problema di minimizzazione della distanza rispetto all'input originale :

Esempio Se un algoritmo di credit scoring rifiuta un prestito ad un utente, una spiegazione controfattuale potrebbe indicare: "Se il reddito mensile aumentasse di 300€ e il saldo dei debiti diminuisse del 10%, il prestito verrebbe approvato".

Quadro normativo ed etico

L'adozione diffusa dell'IA ha spinto gli organi legislativi europei a codificare principi di trasparenza:

GDPR: L'articolo 22 garantisce agli individui il diritto di non essere sottoposti a decisioni basate unicamente sul trattamento automatizzato, implicando il cosiddetto "diritto alla spiegazione" (right to explanation). AI Act: Classifica i sistemi di IA in base al rischio e impone requisiti stringenti di trasparenza, tracciabilità e spiegabilità per i sistemi ad alto rischio (ad es. infrastrutture critiche, reclutamento lavorativo, valutazione del credito, sanità).

Note

Voci correlate Apprendimento automatico Rete neurale artificiale Etica dell'intelligenza artificiale

Categoria:Intelligenza artificiale Categoria:Regolamenti dell'Unione europea Categoria:Etica Categoria:Ingegneria della conoscenza