Un recente contributo del Governo del Regno Unito, muovendosi nella direzione secondo la quale tanto le decisioni automatizzate non subiscono alcun giudizio umano, quanto il processo decisionale automatizzato assiste il giudizio umano, va a collocarsi in un contesto internazionale il quale, nel corso degli ultimi anni, ha potuto apprezzare un costante arricchimento di interventi in materia, meritevole di analisi nelle sue manifestazioni più significative.
Con l’aumento, infatti, dell’utilizzo dell’intelligenza artificiale e dei processi decisionali automatizzati nell’ambito del settore pubblico, ecco che prosegue speditamente il lavoro delle istituzioni volto ad aumentare la fiducia nel modo in cui la tecnologia viene applicata in vari contesti.
Il provvedimento del governo UK
Grazie alla collaborazione del Cabinet Office, Central Digital and Data Office e dall’Office for Artificial Intelligence, l’Ethics, Transparency and Accountability Framework for Automated Decision-Making si è deciso di migliorare l’alfabetizzazione generale all’interno del governo circa l’uso delle decisioni automatizzate o algoritmiche da parte di tutti i dipendenti pubblici.
Si tratta di un provvedimento composto da sette principi fondamentali che rappresentano alcuni obiettivi essenziali tra cui:
- l’effettuazione di test sul sistema per evitare conseguenze indesiderate, fornire servizi equi per tutti gli utenti e i cittadini;
- avere chiarezza su chi è responsabile del funzionamento del sistema e gestire i dati in modo sicuro così da proteggere i cittadini.
Un esempio
Facciamo il caso di quando si testa il sistema per esiti non previsti, il framework raccomanda alle organizzazioni di adottare il cosiddetto “test del team rosso “, che parte dal presupposto secondo cui “tutti i sistemi di algoritmi sono in grado di infliggere un certo grado di danno”.
Non solo, il quadro parrebbe sottolineare altresì la necessità che le organizzazioni conducano valutazioni di impatto in materia di protezione dati coordinandola con l’uguaglianza.
Ulteriori principi del provvedimento: la data protection
Altri principi del provvedimento parrebbero includere poi misure e suggerimenti per aiutare i cittadini unitamente agli utenti al fine di comprendere l’impatto dei sistemi su di loro, garantendo il rispetto della legge da un lato, e costruendo dall’altro un “qualcosa” a prova di futuro.
Ancora, si legge nel documento che «gli algoritmi non sono [tuttavia] la soluzione a tutti i problemi politici», a fronte del cui postulato parrebbe che le autorità pubbliche sarebbero tenute a considerare se l’utilizzo di un sistema automatizzato sia o meno appropriato, nei loro contesti specifici, prima di procedere con la loro implementazione.
In effetti, secondo il governo britannico, il controllo dovrebbe essere applicato a tutti i processi decisionali automatizzati e algoritmici, con la conseguenza di un’approfondita e indispensabile valutazione del rischio, da effettuarsi necessariamente in questi casi/contesti.
Il Centre for Data Ethics and Innovation (CDEI)
Il governo britannico ha sviluppato recentemente uno standard che regolerà l’uso dell’intelligenza artificiale nella PA. Ciò significa che il comparto pubblico (fatto da enti come ministeri, scuole e altri enti pubblici) dovrà «rivelare come funziona l’architettura alla base degli algoritmi che influenzano, per esempio, l’esito di un esame, l’assegnazione di una cosa/casa o la priorità per l’inizio di un’opera pubblica, ecc».
Il Centre for Data Ethics and Innovation (CDEI) del Regno Unito ha peraltro pubblicato una “tabella di marcia” per la costruzione di un “ecosistema di garanzia” per l’AI.
Si tratta di un ente governativo incentrato sull’innovazione etica nei dati e nell’AI, identificando e mitigandone i rischi, col risultato di promuovere un’adozione il più affidabile possibile.
La tabella di marcia: le 6 priorità
Detta tabella di marcia è stata imposta dalla National AI Strategy del Regno Unito, all’inizio dello scorso anno (2021).
In questa tabella di marcia sono evidenziate alcune (6) priorità:
- generare domande di garanzie affidabili ed efficaci lungo tutta la catena di approvvigionamento dell’AI, il miglioramento della comprensione dei rischi e la responsabilità per la mitigazione;
- costruire un mercato di assicurazione dell’AI dinamico e competitivo, che fornisca una gamma di servizi e strumenti efficaci;
- sviluppare standard che forniscano un linguaggio comune in materia di AI;
- creare una professione che assicuri un’AI responsabile volta a garantire che anche i servizi siano affidabili e di alta qualità;
- supportare le organizzazioni volte a soddisfare gli obblighi normativi;
- migliorare i collegamenti tra l’industria e i ricercatori indipendenti, di talché i ricercatori possano aiutare a sviluppare tecniche di garanzia e identificare i rischi dell’AI.
Il CDEI lavorerà inoltre con il Dipartimento per il digitale, la cultura, i media e lo sport (DCMS) e l’Ufficio per l’AI per la sperimentazione di un hub per gli standard di intelligenza artificiale e collaborerà anche con organismi professionali e autorità di regolamentazione nel Regno Unito su standard e requisiti dei sistemi di intelligenza artificiale.
Strategia AI del Regno Unito: i tre pilastri
Secondo l’Office for Artificial Intelligence, un apposito ufficio governativo coordinato congiuntamente dal Department for Business, Energy & Industrial Strategy e dal Department for Digital, Culture, Media & Sport, concepisce l’intelligenza artificiale possidente di “un enorme potenziale per riscrivere le regole di intere industrie, promuovere una considerevole crescita economica e trasformare tutti i settori della vita.”
La strategia anglosassone si fonda su tre pilastri:
- investire e pianificare per le necessità a lungo termine dell’ecosistema AI al fine di mantenere la leadership del Regno Unito quale superpotenza scientifica e per l’AI;
- sostenere la transizione verso una economia facilitata dall’AI, sfruttando bene i benefici dell’innovazione e assicurando che la stessa (AI) trasmetta vantaggi in ogni settore e in ogni dove;
- assicurare che il Regno Unito ottenga la giusta governance nazionale e internazionale delle tecnologie di AI al fine di incoraggiare l’innovazione, gli investimenti e proteggere il pubblico unitamente ai suoi valori fondamentali.
Analizziamo i tre pilastri singolarmente.
1. Investire nelle esigenze a lungo termine dell’ecosistema AI
Fra le azioni che il Regno Unito intende adottare onde fare fronte alle necessità di lungo termine, risaltano in modo particolare le seguenti:
- lancio di un nuovo programma nazionale di ricerca e innovazione sull’AI per stimolare nuovi investimenti nella ricerca fondamentale sulla materia artificiale;
- piano per attrarre in UK competenze dall’estero (“le cd persone più brillanti“) per sviluppare l’AI;
- programmi per insegnare l’intelligenza artificiale ai bambini, che raggiungano tutte le fasce demografiche, attraverso il National Centre for Computing Education (NCCE);
- produrre open data strutturati, vale a dire facilmente gestibili da procedure automatizzate, in favore tanto degli enti pubblici (o equipollenti) quanto delle imprese private.
2. Assicurare che l’AI porti benefici a tutti i settori e a ciascuna regione
In questo secondo pilastro fondante risiede nel fare in modo che i benefici dell’AI ricadano su tutti. Per arrivare a questo il governo britannico si impegna a:
- lanciare un programma per stimolare lo sviluppo e l’adozione di tecnologie di intelligenza artificiale in settori ad alto potenziale e a bassa maturità AI;
- pubblicare, verso l’inizio del 2022, una bozza di strategia nazionale per l’AI nella sanità e nell’assistenza sociale;
- accordarsi bilateralmente e multi lateralmente al fine di promuovere i vantaggi strategici del Regno Unito in settori come l’energia, attraverso l’estensione di aiuti per sostenere gli ecosistemi AI locali nelle nazioni in via di sviluppo;
- pubblicare una ricerca sui fattori determinanti che influenzino la diffusione dell’AI nell’economia;
- pubblicare la strategia AI per spiegare come raggiungere e sostenere il vantaggio tecnologico ed essere una “superpotenza” scientifica nella difesa; la strategia dovrà delineare anche l’istituzione di un nuovo Defence AI Centre, un centro per l’AI militare.
3. Governare l’AI in modo efficace
Il terzo e ultimo pilastro può essere altresì inteso come ciò che l’AI, pur portando evidenti vantaggi all’intera economia di un Paese, da sé sola non è sufficiente a garantire che gli stessi benefici pervadano tutti i settori.
Ciononostante, non mancheranno aziende in difficoltà nello stare al passo, sia per mancanza di “forza lavoro in grado di lavorare con l’AI, sia perché taluni processi di digital transformation, a molti imprenditori, non si paleseranno immediati.
Non a caso il testo in disamina, si rivolge infatti proprio a loro asserendo che: «Se gestisci un’azienda – che sia una startup, una PMI o una grande azienda – il governo desidera che tu abbia accesso alle persone, alle conoscenze e alle infrastrutture di cui avrai bisogno per mantenere la tua azienda al passo con le trasformazioni portate dell’AI, rendendo il Regno Unito un’economia globalmente competitiva e ‘AI-first’ che porterà beneficio a ogni regione e in ogni settore».
La timeline
Il documento in questione include una timeline o cronoprogramma di interventi, suddivisi in attività:
- pressoché immediate (entro 3 mesi) specie in ambito educativo volgendo particolare attenzione alla governance dei dati, oltre ai settori chiave come sanità, difesa e brevetti;
- a medio termine (da 6 a 12 mesi), quelle azioni volte a chiarire le competenze che i lavoratori debbano acquisire per lavorare con l’AI, la portata dei finanziamenti privati per il settore, nonché iniziative per la trasparenza algoritmica, gli standard e la sicurezza dell’AI.
- a lungo termine (dopo 1 anno o forse più), tutte iniziative per verificare quale sia l’approccio nazionale verso l’approvvigionamento di semiconduttori, per mettere a disposizione dataset governativi, per scambiare tecnologie con Paesi terzi, al fine di concentrarsi sui temi sociali ed etici nello sviluppo di tecnologie AI.
Strategia AI del Regno Unito, cosa manca ancora
Vediamo ora cosa manca davvero, per quanto molti degli elementi citati sono/sarebbero presenti, ma spesso soltanto di facciata. Vediamo quali.
Finanziamenti
In genere, questi cd. “documenti strategici” sono accompagnati da altisonanti proclami sugli sforzi di danaro che il Governo mette a disposizione; annunci che al momento non paiono essere stati (ancora) proclamati.
Governance
Con tutta evidenza, la governance viene considerata come una delle priorità della strategia nazionale, eppure parrebbero solo astratte linee come se fossero state pronunciate non potendo il Regno Unito più ritardare una risposta alla proposta del Regolamento europeo in materia di intelligenza artificiale.
Etica
Il vero problema risiede nel capire quanto l’etica abbia ispirato e inciso nel documento apparendo quasi come relegata a posizioni di secondo piano, sull’onde di quanto l’Unione Europea continui a promuovere “principi etici” dell’intelligenza artificiale: ma saranno di fatto possibili?
L’AI in prospettiva futura
L’intelligenza artificiale è ormai un fenomeno globale. Non a caso sia l’Unione Europea che la maggior parte degli stati OECD hanno pubblicato, in questi ultimi due anni, strategie per l’AI, disegnando linee guida per lo sviluppo a breve e lungo termine del settore. Svariati paiono già i report dedicati che sottolineano sostanzialmente quanto questa tecnologia stia attraendo enormi quantità di investimenti allargando sempre di più la platea dei soggetti interessati.
Per ulteriori approfondimenti su quali conseguenze abbia avuto la Brexit sull’intero ecosistema IA, leggi qui.
Conclusioni
Il fatto che l’ultimo intervento in materia di processi decisionali basati sull’intelligenza artificiale provenga proprio dal Regno Unito rende particolarmente interessante la questione.
D’altra parte, il mondo sta correndo e le potenze mondiali stanno, con palmare evidenza, investendo e anche molto sull’AI.
Pertanto, non occorre stupirsi che il Regno Unito abbia preso contezza della necessità di regolare le forme (a oggi conosciute) di intelligenza artificiale, pervasive peraltro nei processi di digitalizzazione delle PA.
