Decisioni algoritmiche

“Cosa succede se una decisione o un giudizio sono assunti da un algoritmo in piena autonomia e senza l’intervento dell’uomo? Può la piena razionalità di una macchina sostituire i valori di equità, causalità e trasparenza a cui l’uomo si ispira nell’assumere le proprie decisioni e i propri giudizi”?

Sono questi i temi principali trattati nel volume “Decisioni algoritmiche” di Giuseppe D’Acquisto, Giappichelli Editore. Il libro è edito nella collana “I diritti della ‘rete’ nella rete” diretta da Franco Pizzetti.

“Sono temi cruciali da affrontare in vista di un impiego sempre più esteso di sistemi di intelligenza artificiale per risolvere problemi, decidere, giudicare. Il libro spiega come formalizzare in costrutti logico-matematici i valori umani di equità, causalità e trasparenza in modo da farli diventare parte della progettazione di algoritmi. Questa rappresentazione è essenziale per sviluppare una forma di controllo umano sul funzionamento dei sistemi di intelligenza artificiale”, si legge in quarta di copertina.

Dal volume di Giuseppe D’Acquisto abbiamo estratto alcuni passi significativi che vi proponiamo.

Capitolo Primo

Decisioni algoritmiche: opportunità e rischi

1. Dalle decisioni umane alle decisioni algoritmiche

In questo libro affronteremo il tema delle decisioni algoritmiche, ossia analizzeremo quei casi in cui il giudizio ultimo su un fenomeno è rimesso a una macchina, che prende decisioni sulla base dell’analisi dei dati disponibili e attraverso l’impiego di modelli matematici, o algoritmi, senza l’intervento del­l’uomo. Sono situazioni destinate a diventare molto frequenti, sia perché in molti ambiti il giudizio della macchina può essere più accurato di quello umano (si pensi alla diagnostica per immagini nel settore medico), e dunque avremo un progressivo effetto di sostituzione uomo-macchina nell’analisi di specifici fenomeni, sia perché il nuovo contesto tecnologico caratterizzato da un’ampia disponibilità di dati, dalla pervasività di dispositivi per la loro raccolta, e dall’incremento della capacità computazionale delle macchine (contesto tecnologico che raggruppiamo sotto il nome di intelligenza artificiale) creerà molte nuove occasioni in cui sarà necessario esprimere un giudizio con prontezza e direttamente in una forma automatizzata. Le ragioni di questa delega decisionale alla macchina da parte dell’uomo sono molteplici e forse ineluttabili: l’uomo deve infatti arrestarsi di fronte al volume di dati che viene generato costantemente, ben oltre le proprie capacità di memorizzazione e di computazione, e per estrarre una conoscenza da questi dati serve l’ausilio della macchina. Un ausilio che, proprio a causa dei volumi dei dati e della varietà e velocità delle decisioni, dovrà essere sempre più autonomo dall’intervento dell’uomo perché produca risultati efficaci.

L’aspetto quantitativo è essenziale per comprendere la scala e l’ineluttabilità di questa autonomia decisionale. A livello di informazione disponibile, è sotto gli occhi di tutti la capacità di generare e scambiare informazioni resa oggi possibile dai dispositivi che impieghiamo in ogni ambito, da quello lavorativo a quello ricreativo, e non inferiore è la quantità di informazione tecnica (dati di localizzazione o di temporizzazione, immagini) che le macchine si scambiano tra loro per renderci disponibili i servizi che comunemente usiamo e che sempre di più si spostano verso una fruizione in modalità digitale (i servizi bancari, le relazioni con le pubbliche amministrazioni, ogni genere di acquisto di beni, ecc.), e per il loro stesso corretto funzionamento. Si tratta di un giacimento di informazioni inestinguibile e in continua crescita all’interno del quale è possibile trovare la risoluzione di problemi specifici (possiamo migliorare l’efficienza dei trasporti e ridurre il numero di incidenti? oppure, impiegare meglio le risorse e inquinare di meno? possiamo prevedere la diffusione di un virus o addirittura prevenirlo? e così via). Già oggi la quantità di informazione prodotta ha superato la soglia degli zettabyte (10²¹ byte) su base annua ovvero, a livello pro-capite e immaginando che questa informazione sia uniformemente distribuita su ogni abitante del pianeta, qualche decina di gigabyte al giorno. L’equivalente in termini di bit di un paio di film ad alta definizione prodotti ogni giorno da una molteplicità di fonti per ciascuno di noi. Su un piano infrastrutturale, con la versione 6 del protocollo IP (IPv6), che consente a tutti i computer del mondo di scambiarsi informazioni su internet, sarà teoricamente possibile indirizzare e mettere in collegamento ogni cosa con ogni altra cosa esistente sulla faccia della Terra. Per intenderci (ma è un’immagine molto al di sotto delle potenzialità della tecnologia), è come se ogni oggetto che ci circonda, e ogni parte minuta di cui è composto, potesse essere dotato di un sensore per comunicare il proprio stato di funzionamento, o se ogni singola foglia di ogni albero piantato sulla terra potesse fare lo stesso per dirci se è stata irrorata meglio o peggio della foglia a fianco.

Siamo ben oltre la capacità dell’uomo di governare “manualmente” questi flussi di dati, di analizzarli per estrarre conoscenza e di formulare con prontezza decisioni, che dovranno essere in larga parte automatizzate, e si apre la prospettiva molto concreta di un allargamento dello spettro delle decisioni che si potranno assumere. Oggi la decisione e il giudizio dell’uomo si applicano a un numero molto limitato di fenomeni. Decidere è un’operazione lenta e costosa per l’uomo. Lo è la raccolta dei dati e la loro interpretazione e, per la presenza di questa lentezza e di questo “filtro economico”, l’uomo limita le occasioni di decisione e di giudizio a circostanze ben codificate. Ad esempio, la violazione di una legge o di un principio etico può dare luogo ad un giudizio, oppure la necessità di raggiungere un obiettivo può innescare una successione di decisioni strategiche. Si tratta di un numero certamente rilevante di situazioni, ma comunque finito. A misura d’uomo. (…)

Capitolo Quarto

Causalità

1. Il concetto di causalità

(…) Un altro importante aspetto di una decisione riguarda invece l’accerta­mento di una relazione causa-effetto tra due fenomeni. In altri termini, spesso l’oggetto di un giudizio è l’individuazione della ragione che più verosimilmente ha determinato uno specifico fenomeno osservato. Ad esempio, l’at­tribuzione della responsabilità di un danno è un processo di decisione causale, nel quale si assume che il manifestarsi del danno abbia una causa, che consiste in un comportamento umano, che lo ha generato e che lo ha reso evidente nel momento in cui ne osserviamo l’effetto. Ma questo tipo di ricerca “a ritroso” delle cause trova applicazione in moltissimi ambiti: è un processo di decisione causale quello che ci porta a cercare il colpevole di un crimine, oppure l’origine della diffusione di un virus, o ancora quello che ci porta a domandarci se un certo farmaco impiegato in una sperimentazione sia efficace per la cura di una malattia e cosi via. In termini generali, in un processo di decisione causale abbiamo una coppia di grandezze X, la causa ipotizzata, e Y, l’effetto osservato, che possono manifestarsi in vario modo e lo scopo della decisione causale è comprendere se il modo in cui X varia determini il modo in cui Y varia. In particolare, la questione che affronteremo in questo capitolo è se questo processo di ricerca delle cause di un fenomeno possa essere formalizzato in termini logico-matematici in modo da diventare un algoritmo. (…)