Viviamo in un mondo caratterizzato dalla imprevedibile certezza di rischi, sempre più complessi e in rapida evoluzione. Ci troviamo a vivere nella cosiddetta era della “datocrazia”: i dati diventano sempre più strategici in quanto possono fornire nuove fonti di informazioni per semplificare e per ottimizzare la sottoscrizione di polizze assicurative, finanziamenti e, al contempo, migliorare la comprensione del rischio, consentendone categorizzazioni più “raffinate” e granulari grazie a piattaforme basate sull’AI per la gestione dei dati.
Lo scenario sopra descritto è stato oggetto di discussione della tavola rotonda intitolata “Lo sviluppo e l’applicazione dei Big Data Analytics: la mappa dei rischi” all’interno del Convegno annuale di ANRA – Associazione dei Risk Manager e Responsabili Assicurazioni Aziendali – tenutosi a Milano il 24 e 25 ottobre 2022 e focalizzato sulla tematica de “L’Ecosistema digitale del rischio – Intelligenza artificiale e Big data”.
Il convegno ANRA 2022 – Prospettive degli esperti del settore
Nel corso della tavola rotonda si è evidenziata la metamorfosi in atto in termini di processo di aggregazione dei dati, ovvero: in passato era l’uomo a decidere come clusterizzare i dati; mentre, oggigiorno, le decisioni sono prese dall’algoritmo. Ne consegue che è quanto mai necessario ridurre al minimo i rischi che l’uso dell’AI comporta.
Inoltre, gli scenari altamente mutevoli ed erratici hanno indotto il settore della consulenza a proporre ai propri clienti dei “cruscotti” in grado di fornire scenari basati sui dati, analisi e AI cercando sempre più di arricchire i modelli a supporto delle decisioni di rischio con tecniche di AI/ML e dati transazionali/comportamentali – i.e. data enrichment, model enhancement – di breve periodo.
Una trasformazione è in atto anche nel settore assicurativo attraverso la semplificazione prodotti a fronte di un processo di digitalizzazione/automazione dei processi. Ovvero: nuova architettura informatica basata su cloud/API e ODS per gestione univoca del dato e disponibilità 24×7.
Si tratta, di fatto, di garantire la “triangolazione perfetta” di dati-AI-rischio che consente di: accelerare il processo di risk management; garantire una maggiore trasparenza delle informazioni, l’integrazione dei dati e dei processi del risk engineering con quelli di sottoscrizione e amministrazione delle polizze e gestione dei sinistri; garantire un migliore flusso di dati tra l’assicuratore/broker e il cliente; governance e compliance dei dati.
Le organizzazioni, grazie alla tecnologia e alla analisi automatizzata dei dati sono in grado di intraprendere in modo più strutturato e consapevole il cammino verso la resilienza organizzativa ed operativa. Tuttavia, i rischi scaturiti dai dati e dalla loro elaborazione da parte dell’AI devono essere propriamente gestiti. Ovvero, si tratta di garantire una “triangolazione perfetta” tra dati, AI e rischi attraverso un approccio risk-based and resilience-based onde evitare che il tutto si trasformi in un “triangolo delle Bermuda”.
Alla tavola rotonda hanno partecipato (in ordine alfabetico) Roberto Bartocetti (Partner, Financial Services, Risk, Capital & Reporting – PWC), Andrea Molteni (Chief Operations Officer – Zurich) e Roberto Setola (Direttore Master Homeland Security, Università Campus Bio-Medico di Roma).
I panelist hanno sottolineato l’importanza strategica di utilizzare i Big data e della loro elaborazione grazie alle applicazioni basate sull’AI, unitamente a un approccio basato sulla gestione del rischio.
I dati nella gestione del rischio delle organizzazioni
Assistiamo a una proliferazione di dati, i Big Data, che alimentano sempre più l’evoluzione del processo decisionale dell’AI.
I Big data possono essere esplorati e analizzati per informazioni e approfondimenti. Inoltre, l’analisi dei Big data contribuisce a potenziare l’uso di processi e tecnologie, tra cui l’AI e l’apprendimento automatico, per combinare e analizzare enormi set di dati con l’obiettivo di identificare modelli e sviluppare informazioni fruibili atti a prendere decisioni più rapide e migliori che possono aumentare l’efficienza, i ricavi e i profitti e gestire i rischi delle organizzazioni.
AI per gestire ed elaborare i dati
Di fatto, la disponibilità dei Big data, la connessione delle persone, delle cose e dei sistemi creano connessioni dinamiche e permettono di organizzare e ottimizzare le situazioni in tempo reale e a valore aggiunto. Inoltre, l’AI impatta sempre più profondamente sulla vita di tutti noi, convertendosi in una leva strategica “superiore” e i cui utilizzi sembrano illimitati dato che, elaborando una quantità sempre crescente di dati disponibili, può garantire nuove potenzialità e approcci strategici per le organizzazioni ed essere sempre più utilizzata nella previsione e nella stima dell’impatto dei vari rischi, in tutti i settori della sfera sociale e aziendale.
Pertanto, i framework del Risk management e della resilienza organizzativa subiranno cambiamenti di paradigma e adotteranno misure preventive che, in molti casi, saranno attivate automaticamente e, grazie a monitoraggi e segnalazioni più accurati, consentiranno di prendere decisioni più opportune e vincenti.
Dati, AI e gestione del rischio
L’automazione della gestione e della modellazione del rischio è oramai sempre più diffusa, contribuendo al miglioramento della qualità delle decisioni, non solo delle organizzazioni, ma anche dei vari stakeholder a cominciare da quelli assicurativi, consulenziali e bancari ecc.
In questo contesto i dati, elaborati dalla tecnologia di AI, diventano sempre più strategici in quanto possono semplificare e ottimizzare la sottoscrizione di polizze assicurative come di finanziamenti e, al contempo, migliorare la comprensione del rischio, consentendone categorizzazioni più “raffinate” e granulari.
Tuttavia, le nuove tecnologie che impiegano i dati, oltre ad aumentare le nostre capacità, le modellano e le guidano attivamente, nel bene e nel male.
Si tratta di acquisire un’adeguata conoscenza della tecnologia AI e della qualità dei dati di cui essa si alimenta per evitare i rischi intrinsechi e al contempo gestirli.
In questa direzione si sta muovendo l’Unione Europea con l’AI Act e Cyber Resilience Act, in cui si evidenzia la necessità di una modifica all’approccio al rischio nella gestione dei dati in un ambito di innovazione tecnologica basata su sistemi di AI e garanzia della sicurezza.
Interessante notare come, sino ad oggi, le organizzazioni sono state solite implementare sistemi di gestione del rischio per definire sia la propensione sia la tolleranza al rischio dopo aver svolto le attività di identificazione, misurazione, trattamento e le necessarie azioni di mitigazione, mentre i modelli basati sull’utilizzo dell’AI sono costituiti da funzioni complesse senza visibilità o comprensione della logica seguita o della struttura del processo decisionale. Inoltre, considerando che gli algoritmi di machine learning sono addestrati con dati di input generati dalle persone, il processo decisionale dell’algoritmo si basa sullo stesso pregiudizio che si applica alle decisioni umane e influenzato dalla cultura, dai punti di vista e dagli stereotipi di chi li “alimenta” (i.e. in gergo “garbage in – garbage out” ovvero facendo una trasposizione ardita e scomodando il filosofo austriaco Feuerbach, l’AI è ciò che “mangia”).
Pertanto, le variabili introdotte dall’AI e dal machine learning poco si adattano alla gestione del rischio tradizionale, che non tiene conto dell’effetto “scatola nera” dei modelli di AI e machine learning opachi. Ne consegue che sarà sempre più necessario aggiornare i sistemi di gestione del rischio e considerare fattori come l’etica dei dati e allinearli ai valori aziendali e, al contempo, essere in grado di giustificare e spiegare l’intento alla base dell’uso di tali dati elaborati dall’AI.
Ovvero, è quanto mai necessario considerare la gestione del rischio direttamente nella fase progettuale dei modelli di AI, in modo che la supervisione sia costante e simultanea allo sviluppo interno e il provisioning esterno dell’AI in tutta l’organizzazione adottando una modalità di “derisking AI by design”.
Garantire lo sviluppo di un sistema di governance
Ancora, ogni organizzazione che utilizzi un modello di AI deve essere in grado di garantire lo sviluppo di un sistema di governance che tenga in considerazione:
- gli aspetti di responsabilità aziendale;
- l’applicazione di un comportamento adeguato nei confronti dei propri clienti e dipendenti;
- il rispetto di eventuali requisiti normativi vigenti e futuri.
Pertanto, le organizzazioni dovranno aggiornare i sistemi di gestione dei rischi in modo tale da renderli più flessibili, agili e adattivi.
In modo ardito possiamo affermare che la tecnologia basata sull’AI si converte quasi in un “magister” – nell’accezione latina del termine, i.e. colui che indica il cammino – facilitando le organizzazioni:
- nell’acquisire la conoscenza del proprio “status” e del contesto;
- nell’avere una maggiore consapevolezza dei rischi tradizionali/emergenti, dei punti di cedimento che potrebbero impattare su di esse
- nel proporre sia le azioni di gestione del rischio più efficaci sia l’individuazione della soluzione o del partner più adatto.
Conclusioni
La tecnologia, nel corso della storia, ha contribuito a migliorare le condizioni di vita delle persone. Ne consegue che la trasformazione digitale deve essere considerata come parte di un circolo virtuoso in cui la tecnologia viene utilizzata e migliorata dalle persone e, al tempo stesso, deve essere in grado di accompagnarle nel loro percorso di vita.
Ricordiamoci che la tecnologia, essendo un costrutto umano, deve essere sottoposta al vaglio e alla riflessione delle scienze umane. Si tratta, insomma, di attuare l’algoretica, cioè lo studio di modalità di sviluppo etico delle intelligenze artificiali in modo da mantenere l’uomo al centro dei processi decisionali, come possibile antidoto all’algocrazia.
