AI Act: il Parlamento europeo dovrebbe raggiungere una posizione comune nelle prossime settimane, secondo alcune indiscrezioni. La proposta legislativa è il primo tentativo al mondo di istituire una serie completa di regole per l’intelligenza artificiale basate sui sistemi ad alto rischio.
Un aspetto critico della proposta di legge è la categoria dei modelli di AI che possono causare danni significativi, che devono rispettare obblighi più severi in materia di qualità e gestione del rischio. Anche per quanto riguarda le infrastrutture critiche, tuttavia, le modalità di valutazione del rischio restano oggetto di dibattito.
L’intelligenza artificiale è sempre più utilizzata nella gestione delle infrastrutture critiche, in particolare per lo sviluppo dei progetti, la manutenzione e l’ottimizzazione delle prestazioni.
La regolamentazione dell’AI nelle infrastrutture critiche
La proposta originaria dell’AI Act rilevava che “è opportuno classificare come ad alto rischio i sistemi di AI destinati a essere utilizzati come componenti di sicurezza nella gestione e nel funzionamento del traffico stradale e nella fornitura di acqua, gas, riscaldamento ed elettricità”.
Nel Consiglio dei Ministri dell’UE, gli Stati membri hanno chiarito che il concetto di componente di sicurezza deve essere distinto dal sistema di gestione stesso. Per fare un esempio, in una diga il meccanismo di apertura delle valvole è il sistema di gestione, mentre la tecnologia che monitora la pressione dell’acqua è un componente di sicurezza.
Al Parlamento europeo, i parlamentari che coordinano il lavoro sulla legge sull’intelligenza artificiale hanno proposto di differenziare la gestione del traffico stradale, ferroviario e aereo dalle reti di approvvigionamento come acqua, gas, riscaldamento, energia ed elettricità, stando agli emendamenti di compromesso.
Mentre il Consiglio ha incluso le infrastrutture digitali come i servizi cloud e i centri dati nell’elenco dei casi d’uso ad alto rischio, poiché l’intento è quello di prevenire “interruzioni sensibili nell’ordinario svolgimento delle attività sociali ed economiche”, i parlamentari dell’UE finora non hanno fatto altrettanto.
I casi ad alto rischio nell’AI Act
L’aggiunta all’elenco dei casi ad alto rischio nell’AI Act ha causato una notevole ansia nel settore delle telecomunicazioni, che utilizza l’intelligenza artificiale per gestire la capacità della rete, pianificare gli aggiornamenti, rilevare le frodi e migliorare l’efficienza energetica. Il timore è che il malfunzionamento di uno di questi algoritmi possa far crollare l’intero sistema.
Ad esempio, se un operatore di telecomunicazioni calcola male i picchi di traffico in diverse aree della sua rete, questo potrebbe portare a interruzioni di Internet?
Più in generale, gli operatori delle infrastrutture critiche sono preoccupati che, se la categoria ad alto rischio del regolamento sull’AI è troppo ampia, potrebbero vedersi preclusi strumenti utili che contribuiscono a rendere i loro sistemi più efficienti e sicuri.
Un esempio è rappresentato dal fatto che gli Stati membri hanno escluso gli strumenti di cybersicurezza alimentati dall’AI dalla definizione di componente di sicurezza.
L’analisi del malware da parte degli antivirus si basa su modelli predittivi e sull’apprendimento automatico, il che significa che ai fornitori di servizi per le infrastrutture critiche sarebbe stato precluso l’utilizzo di quasi tutti gli antivirus disponibili in commercio.
Allo stesso tempo, i sistemi di gestione basati sull’AI non sono privi di rischi.
Pertanto, l’argomentazione a favore di un approccio più granulare nella categorizzazione ad alto rischio riguarda il caso in cui le soluzioni di AI rendano l’infrastruttura più sicura e il loro fallimento non comporti una minaccia imminente.
La manutenzione fisica, ad esempio, è spesso costosa e richiede tempo, il che potrebbe portare le infrastrutture a cadere in rovina. Non utilizzare la capacità dell’AI di identificare schemi e individuare anomalie prima che si trasformino in problemi più gravi può avere un costo.
