Dopo 36 ore di negoziati, venerdì 8 dicembre i membri del Parlamento e del Consiglio hanno raggiunto un accordo provvisorio sulla legge sull’intelligenza artificiale, cosiddetto AI Act. Il regolamento mira a garantire che i diritti fondamentali, la democrazia, lo stato di diritto e la sostenibilità ambientale siano protetti dall’AI ad alto rischio, stimolando al contempo l’innovazione e facendo dell’Europa un leader nel settore. Come già ampiamente enunciato, le norme dell’AI Act stabiliscono obblighi per l’AI in base ai suoi rischi potenziali e al livello di impatto.
Le applicazioni vietate
Riconoscendo la potenziale minaccia ai diritti dei cittadini e alla democrazia rappresentata da alcune applicazioni dell’AI, i colegislatori hanno deciso di vietare:
- sistemi di categorizzazione biometrica che utilizzano caratteristiche sensibili (ad esempio, convinzioni politiche, religiose, filosofiche, orientamento sessuale, razza);
- scraping non mirato di immagini facciali da Internet o da filmati di telecamere a circuito chiuso per creare database di riconoscimento facciale;
- riconoscimento delle emozioni sul posto di lavoro e nelle istituzioni educative;
- punteggio sociale basato sul comportamento sociale o sulle caratteristiche personali;
- sistemi di intelligenza artificiale che manipolano il comportamento umano per eludere il loro libero arbitrio;
- AI utilizzata per sfruttare le vulnerabilità delle persone (a causa della loro età, disabilità, situazione sociale o economica).
Esenzioni per le forze dell’ordine
I negoziatori hanno concordato una serie di salvaguardie e ristrette eccezioni per l’uso di sistemi di identificazione biometrica (RBI) in spazi accessibili al pubblico a fini di applicazione della legge, previa autorizzazione giudiziaria e per liste di reati rigorosamente definite. L’RBI “post remoto” verrebbe utilizzato esclusivamente per la ricerca mirata di una persona condannata o sospettata di aver commesso un reato grave.
L’RBI “in tempo reale” sarebbe conforme a condizioni rigorose e il suo utilizzo sarebbe limitato nel tempo e nel luogo, ai fini di:
- ricerche mirate delle vittime (rapimento, tratta, sfruttamento sessuale),
- prevenzione di una minaccia terroristica specifica e attuale;
- localizzazione o identificazione di una persona sospettata di aver commesso uno dei reati specifici menzionati nel regolamento (ad esempio, terrorismo, traffico di esseri umani, sfruttamento sessuale, omicidio, rapimento, stupro, rapina a mano armata, partecipazione a un’organizzazione criminale, reati ambientali).
Obblighi per i sistemi ad alto rischio
Per i sistemi di AI classificati come ad alto rischio (a causa del loro potenziale danno significativo alla salute, alla sicurezza, ai diritti fondamentali, all’ambiente, alla democrazia e allo stato di diritto), sono stati concordati obblighi chiari. Gli eurodeputati sono riusciti a includere, tra gli altri requisiti, una valutazione obbligatoria dell’impatto sui diritti fondamentali, applicabile anche ai settori assicurativo e bancario. Anche i sistemi di intelligenza artificiale utilizzati per influenzare l’esito delle elezioni e il comportamento degli elettori sono classificati come ad alto rischio. I cittadini avranno il diritto di presentare reclami sui sistemi di IA e di ricevere spiegazioni sulle decisioni basate sui sistemi di AI ad alto rischio che hanno un impatto sui loro diritti.
Guardrail per i sistemi di intelligenza artificiale generale
Per tenere conto dell’ampia gamma di compiti che i sistemi di AI possono svolgere e della rapida espansione delle loro capacità, è stato concordato che i sistemi di AI per uso generale (GPAI) e i modelli GPAI su cui si basano dovranno aderire ai requisiti di trasparenza inizialmente proposti dal Parlamento. Questi includono la stesura di una documentazione tecnica, il rispetto della legge sul copyright dell’UE e la diffusione di sintesi dettagliate sui contenuti utilizzati per l’addestramento.
Per i modelli GPAI ad alto impatto con rischio sistemico, i negoziatori del Parlamento sono riusciti a ottenere obblighi più severi. Se questi modelli soddisfano determinati criteri, dovranno condurre valutazioni del modello, valutare e mitigare i rischi sistemici, condurre test avversari, riferire alla Commissione su incidenti gravi, garantire la sicurezza informatica e riferire sulla loro efficienza energetica. I deputati hanno anche insistito sul fatto che, fino alla pubblicazione di standard UE armonizzati, le AAPI con rischio sistemico possono affidarsi a codici di pratica per conformarsi al regolamento.
Misure a sostegno dell’innovazione e delle PMI
Gli eurodeputati volevano garantire che le imprese, soprattutto le PMI, potessero sviluppare soluzioni di AI senza subire pressioni indebite da parte dei giganti del settore che controllano la catena del valore. A tal fine, l’accordo promuove le cosiddette regulatory sandboxes e real-world-testing, istituite dalle autorità nazionali per sviluppare e addestrare l’AI innovativa prima dell’immissione sul mercato.
Le sanzioni
Il mancato rispetto delle norme può comportare multe che vanno da 35 milioni di euro o il 7% del fatturato globale a 7,5 milioni o l’1,5% del fatturato, a seconda della violazione e delle dimensioni dell’azienda.
Accordo sull’AI Act: le dichiarazioni dei correlatori
Ad accordo raggiunto Brando Benifei (S&D, Italia) ha dichiarato: “È stato un lavoro lungo e intenso, ma ne è valsa la pena. Grazie alla capacità di resistenza del Parlamento europeo, la prima legislazione orizzontale al mondo sull’intelligenza artificiale manterrà la promessa europea, garantendo che i diritti e le libertà siano al centro dello sviluppo di questa tecnologia rivoluzionaria. La corretta attuazione sarà fondamentale: il Parlamento continuerà a tenere alta l’attenzione, per garantire il sostegno alle nuove idee imprenditoriali con sandbox e regole efficaci per i modelli più potenti”.
Benifei ha poi postato un altro commento su X:
“Dopo centinaia di riunioni e un’ultima maratona di 36 ore di negoziati abbiamo raggiunto uno storico accordo fra Parlamento Europeo e Governi sulla prima legge al mondo sull’Intelligenza Artificiale, il Regolamento Ai Act.
Con queste regole i sistemi che verranno usati in ambito sensibili come le scuole, i luoghi di lavoro, gli ospedali, i tribunali saranno sottoposti a regole stringenti per poter essere utilizzati, a tutela delle persone più fragili e per dare fiducia nell’adozione di questi strumenti che potranno migliorare sensibilmente le nostre vite se usati nel modo giusto.
Abbiamo messo regole stringenti per la sicurezza dei modelli più potenti e abbiamo imposto la trasparenza sul diritto d’autore a tutela dei lavoratori della creatività e del giornalismo e la riconoscibilità dei contenuti generati dall’intelligenza artificiale, in modo da contrastare la disinformazione e difendere la nostra democrazia da una proliferazione incontrollata dei cosiddetti “deepfakes”.
Sono inoltre orgoglioso di poter dire che i durissimi negoziati dei giorni scorsi hanno permesso di ribaltare l’approccio securitario che avrebbe voluto permettere ai governi e ai privati di usare queste tecnologie per il riconoscimento emotivo nei luoghi di lavoro, per l’identificazione su base etnica e delle opinioni politiche, per la predizione di chi commetterà un crimine.
Rischi distopici che abbiamo bloccato con divieti stringenti e l’uso del riconoscimento biometrico negli spazi pubblici limitato alla ricerca di terroristi e per pochi gravissimi crimini.
Alcuni governi compreso quello italiano avrebbero voluto più mano libera nel mettere sotto controllo i cittadini e fare profilazione ma hanno trovato un muro invalicabile da parte nostra a tutela delle libertà, grazie anche all’inserimento di una verifica di impatto sui diritti fondamentali che è una novità assoluta introdotta dal Parlamento Europeo nella legge.
Ora sarà fondamentale avviare l’implementazione che partirà dalle proibizioni per poi attuare gradualmente tutte le regole, con l’ambizione di influenzare, come già sta accadendo, la discussione a livello globale sulla regolamentazione di questa tecnologia.
Questo risultato è il frutto del lavoro di una grande squadra, a partire dal mio collega relatore Dragos Tudorache e dai miei collaboratori Laura Caroli e Louis Dancourt che ringrazio per lo straordinario impegno, ed è e la dimostrazione che se l’Europa si muove unita e decide può prendere il proprio posto nel mondo e promuovere un cambiamento positivo”.
Il co-relatore Dragos Tudorache (Renew, Romania) ha aggiunto: “L’UE è la prima al mondo a stabilire una solida regolamentazione sull’IA, guidandone lo sviluppo e l’evoluzione in una direzione incentrata sull’uomo. La legge sull’IA stabilisce regole per i modelli di IA grandi e potenti, garantendo che non presentino rischi sistemici per l’Unione e offre forti garanzie per i nostri cittadini e le nostre democrazie contro qualsiasi abuso della tecnologia da parte delle autorità pubbliche. Protegge le nostre PMI, rafforza la nostra capacità di innovare e di essere leader nel campo dell’IA e protegge i settori vulnerabili della nostra economia. L’Unione europea ha dato un contributo notevole al mondo; la legge sull’IA è un’altra di quelle che avranno un impatto significativo sul nostro futuro digitale”.
Gli eurodeputati Brando Benifei e Dragos Tudorache, il Segretario di Stato per la digitalizzazione e l’intelligenza artificiale Carme Artigas e il Commissario Thierry Breton hanno tenuto una conferenza stampa congiunta dopo i negoziati.
La dichiarazione di Benifei è disponibile qui, quella di Tudorache qui.
Altri estratti, immagini e video sono disponibili qui
Le prossime tappe dell’AI Act
Il testo concordato dovrà ora essere formalmente adottato dal Parlamento e dal Consiglio per diventare legge dell’UE. Le commissioni del Parlamento per il Mercato interno e le Libertà civili voteranno sull’accordo in una prossima riunione.
