La crescente integrazione dei sistemi di intelligenza artificiale nei processi bancari e assicurativi, dalla valutazione del merito creditizio, alla prevenzione delle frodi, alla determinazione del rischio e del prezzo assicurativo, ha reso centrale il tema della trasparenza dei sistemi e della spiegabilità dei relativi output (ovvero dei risultati finali resi dal sistema di IA), quale condizione essenziale per un utilizzo consapevole e soprattutto controllabile dell’intelligenza artificiale.
Del tema se ne discuterà ampiamente nel corso del prossimo webinar organizzato dalla nostra Rivista il giorno 17 settembre 2026 “La governance dell’Intelligenza Artificiale – Problematiche implementative e scelte strategiche, fra data governance, organizzazione interna e gestione dei rischi“. Parte del webinar sarà dedicato ad una tavola di confronto fra operatori del settore bancario e assicurativo, che porteranno la loro esperienza anche in relazione al modo di affrontare la tematica della spiegabilità.
Il tema assume particolare rilievo alla luce dell’AI Act, che, per i sistemi di IA ad alto rischio, introduce specifici requisiti volti a consentire ai soggetti che li utilizzano di comprenderne adeguatamente il funzionamento e di interpretarne correttamente i risultati: l’art. 13 AI Act stabilisce infatti che i sistemi di IA ad alto rischio devono essere progettati e sviluppati con un livello di trasparenza sufficiente a consentire agli utilizzatori di interpretarne l’outpute utilizzarlo adeguatamente, sulla base delle informazioni e delle istruzioni fornite dal provider.
La trasparenza richiesta dalla disciplina europea non coincide, pertanto, con la conoscibilità integrale del funzionamento tecnico dell’algoritmo, ma implica la disponibilità delle informazioni necessarie per comprenderne finalità, capacità e limiti prestazionali, livello di accuratezza e circostanze suscettibili di incidere sui risultati.
Tali informazioni assumono inoltre rilievo ai fini della sorveglianza umana prevista dall’art. 14 AI Act, che presuppone la capacità delle persone incaricate di comprendere adeguatamente capacità e limiti del sistema, interpretarne correttamente gli output e, quando necessario, decidere di non utilizzarli, modificarli o interrompere il funzionamento del sistema.
Per banche e imprese di assicurazione, la spiegabilità assume una dimensione operativa particolarmente significativa quando l’output del sistema contribuisce all’assunzione di decisioni destinate a incidere sulla posizione del cliente, determinando, ad esempio, l’accesso al credito oppure le condizioni applicabili a una copertura assicurativa.
L’AI Act qualifica infatti come sistemi di IA ad alto rischio, salvo le eccezioni previste dal Regolamento, quelli destinati alla valutazione dell’affidabilità creditizia o alla determinazione del merito creditizio delle persone fisiche, nonché quelli utilizzati per la valutazione del rischio e la determinazione dei prezzi nelle assicurazioni vita e malattia.
In tali ambiti, l’uso di modelli complessi e di una pluralità di dati può rendere meno immediata la ricostruzione dei fattori che hanno determinato il risultato prodotto dal sistema di IA: la capacità di comprendere tali fattori diviene quindi essenziale non soltanto per verificare la correttezza dell’output, ma anche per individuare eventuali bias, discriminazioni o risultati anomali, nonché per assicurare che l’utilizzo dell’IA rimanga coerente con le regole che governano il rapporto con la clientela.
Alla dimensione interna della trasparenza, inoltre, si affianca quella che si potrebbe definire esterna, ovvero relativa ai soggetti interessati dalle decisioni, quando l’uso dell’IA determini il diniego di un finanziamento, le condizioni di accesso al credito oppure la valutazione del rischio e il pricing assicurativo.
In tale prospettiva, l’art. 86 AI Act riconosce alla persona interessata, quando ricorrono i presupposti previsti dalla norma, il diritto di ottenere dal deployer (ovvero l’utilizzatore del sistema) spiegazioni chiare e significative sul ruolo del sistema di IA nella procedura decisionale e sui principali elementi della decisione adottata, qualora questa produca effetti giuridici o incida significativamente sulla persona stessa.
La spiegabilità assume quindi una funzione ulteriore rispetto alla mera trasparenza tecnica, poiché deve consentire all’interessato di comprendere concretamente l’incidenza dell’IA sul processo decisionale e gli elementi principali che hanno condotto al relativo risultato.
Tale disciplina deve essere coordinata inoltre con il GDPR, in particolare con gli artt. 13, 14, 15 e 22, qualora il sistema utilizzi dati personali nell’ambito di processi decisionali automatizzati: in questi casi, gli obblighi di trasparenza comprendono, ricorrendone i presupposti, la comunicazione di informazioni significative sulla logica utilizzata, nonché sull’importanza e sulle conseguenze previste del trattamento, mentre l’art. 22 GDPR introduce specifiche garanzie rispetto alle decisioni basate unicamente sul trattamento automatizzato che producano effetti giuridici o incidano analogamente e significativamente sull’interessato.
Sul piano organizzativo, la spiegabilità non può essere considerata una caratteristica esclusivamente tecnica del modello, ma deve tradursi in un presidio di governance, integrato nei processi di selezione, validazione, utilizzo e monitoraggio dei sistemi di IA adottati da banche e imprese di assicurazione.
Gli operatori dovranno quindi disporre di competenze, procedure e controlli che consentano di comprendere il significato degli output, verificarne la coerenza rispetto ai dati utilizzati e individuare eventuali anomalie, evitando che il risultato prodotto dal sistema venga recepito automaticamente senza un’effettiva capacità di valutazione critica.
In questa prospettiva, trasparenza, spiegabilità e sorveglianza umana costituiscono elementi strettamente connessi: quanto maggiore è l’incidenza dell’output algoritmico sulle decisioni relative alla clientela, tanto più rilevante diventa la capacità dell’operatore di ricostruire, documentare e, ove necessario, spiegare le ragioni della decisione adottata.