Il riconoscimento facciale (o biometria facciale) è certamente l’aspetto più esposto tra tutti i sistemi di intelligenza artificiale per la semplicità con cui può essere implementato in qualsiasi ambito della nostra vita quotidiana. Il ricorso a questa tecnologia da parte delle aziende private e della pubblica amministrazione è sempre più diffuso, tanto a supporto delle decisioni di business quanto per migliorare i servizi offerti ai cittadini. Partendo dall’accesso allo smartphone per arrivare ai software per la prevenzione e il monitoraggio di crimini in dotazione alle forze di polizia.
Proprio su questi temi, già a partire dal 2018 diverse associazioni a difesa delle libertà e dei diritti umani avevano denunciato il rischio correlato alla creazione di un sistema di sorveglianza di massa, aggravato dai pregiudizi insiti negli algoritmi che hanno dimostrato, come nel caso del Congresso Usa, di non riconoscere adeguatamente le differenti etnie, confondendo deputati con pericolosi criminali.
Biometria facciale: Europa, Usa e Cina sono su fronti diversi
Il riconoscimento facciale è senza dubbio una delle tecnologie abilitanti potenzialmente più pericolose per le libertà personali e nonostante questo sia ormai un fatto certo è curioso vedere come Europa, Stati Uniti e Cina stiano adottando tre strategie completamente diverse tra loro seppur contornate da un unico fattore comune: la crescente preoccupazione dei cittadini di fronte a scenari imprevedibili.
Secondo alcune fonti giornalistiche sembrerebbe che la Commissione europea stia studiando una proposta di legge per contenere al massimo l’uso della biometria facciale per un periodo non inferiore ai tre anni, durante il quale studiare soluzioni tecnico/normative che limitino al massimo la sua diffusione, consentendola solo in aree circoscritte, oppure in situazioni di reale pericolo per la cittadinanza o per soli scopi di ricerca in ambienti controllati.
Se fosse confermata, si tratterebbe di una scelta coerente con il percorso tracciato prima di tutto dal GDPR, ma potrebbe creare non pochi problemi con quelle nazioni che già da tempo hanno deciso di investire pesantemente in queste soluzioni come la Germania, che ha un piano per estendere a 134 stazioni e a 14 aeroporti il controllo biometrico facciale, o la Francia, che dopo il tentativo per il momento fallito di proporlo nelle scuole sta sviluppando un’applicazione per l’accesso universale ai servizi pubblici del cittadino, la cui autenticazione sarà garantita appunto dalla scansione dei volti.
La scelta della Commissione potrebbe portare alla creazione di speciali autorità di vigilanza sullo sviluppo di queste tecnologie, ma c’è chi sostiene anche che si possa arrivare ad imporre obblighi tanto ai produttori di hardware che agli sviluppatori di soluzioni di AI con possibili conseguenze tutte da valutare sulla limitazione della libertà d’impresa.
Un fatto è certo, qualsiasi soluzione si intenda adottare all’interno dei confini della UE, lo scopo non potrà che essere quello di garantire la centralità del cittadino ed i propri diritti, anche se allo stato attuale non è affatto scontato effettuare analisi di impatto sugli effetti dell’applicazione dell’AI e soprattutto individuare possibili azioni di contenimento del rischio associato che spesso non è nemmeno ancora determinabile.
Negli Usa la biometria facciale è un fenomeno radicato
Mentre l’Europa si sta ponendo la questione di contingentare l’uso di tecnologie per il riconoscimento facciale, negli Stati Uniti, si vivono tensioni contrapposte tra chi, sollevando l’esigenza di tutelare la sicurezza dei cittadini, spinge verso la diffusione massiva di soluzioni di riconoscimento facciale e chi invece inizia a porsi, almeno pubblicamente, serie domande sui potenziali pericoli.
A esclusione di alcune città, come San Francisco, che ha vietato l’uso di telecamere da parte delle forze di polizia per tutelare la privacy dei cittadini ed evitare false corrispondenze, l’utilizzo di sistemi di riconoscimento facciale è un metodo diffuso e radicato nel tempo, ma la cui efficacia è ancora tutta da provare.
In Florida ad esempio la polizia può contare su un database di immagini creato oltre 20 anni fa e alimentato da oltre 4600 interrogazioni mese che almeno in linea teorica dovrebbero contribuire al miglioramento degli algoritmi.
Allo stato attuale però la realtà dei fatti dice cose ben diverse, in quanto è possibile individuare con certezza soltanto una piccolissima parte dei sospettati sia per limiti tecnologici (occorrono immagini nitide e ravvicinate), sia per la poca propensione alla supervisione e all’approfondimento delle indagini. Spesso infatti gli investigatori si limitano ad accertare la verosimiglianza del sospetto, senza approfondire attraverso l’uso di altre tecniche forensi, con il rischio di creare un grave pregiudizio per la difesa delle libertà personali, di qui l’esigenza di trovare soluzioni tecnicamente più efficaci ma socialmente più pericolose.
Come nel caso di Clearview, una recente app in grado di porre fine alla privacy cosi come è stata sempre intesa e che va ben oltre a quanto fino a oggi creato dai big della tecnologia o ipotizzato dalle autorità governative. Se, infatti, per anni gli sforzi si sono concentrati sull’esigenza di creare, alimentare e aggiornare database sostanzialmente riservati (basti pensare che nel 2016 quasi il 50% dei volti dell’intera popolazione americana era catalogato in database fotografici), Clearview ha fatto un salto di qualità spingendosi ad analizzare la sterminata base dati pubblica che ognuno di noi condivide sui social, dando la possibilità alle forze di polizia di poter individuare sostanzialmente chiunque ed allo stesso tempo attingere ad ulteriori informazioni di tipo personale, intercettando usi, abitudini e spostamenti senza grandi sforzi.
Si tratta di una deriva molto pericolosa, nei confronti della quale è necessario agire con urgenza per evitare di superare il cosiddetto punto di non ritorno. Sundar Pitchay, CEO di Google, intervenuto di recente a una conferenza sull’AI a Bruxelles, ha definito come fondamentale, la necessità che i governi dettino norme precise per regolare con standard globali gli sviluppi dell’intelligenza artificiale.
Non si può certamente dire se si tratti di semplici dichiarazioni di facciata provenienti dal numero uno dell’azienda che detiene il 96% del mercato mondiale dei motori di ricerca e che quindi, proprio con l’AI ha creato le proprie fortune, ma senza una comune visione d’intenti, precise linee d’indirizzo politico normativo e un’etica globale sulle nuove tecnologie, il rischio di un sistema di sorveglianza di massa è più che concreto.
In Cina il riconoscimento facciale ha aspetti invasivi
La Cina oggi rappresenta l’esempio di dove l’uso governativo di queste tecnologie possa farci arrivare. Il social credit score introdotto per la popolazione da quest’anno e che presto sarà esteso anche alle aziende, sta influenzando il comportamento pubblico dei cittadini che, sottoposti a monitoraggio costante e continuo, potrebbero vedersi negato il diritto a un numero crescente di servizi sulla base di una valutazione combinata tra diversi sistemi in cui il riconoscimento facciale ha un aspetto predominante. Talmente predominante che, dopo avere introdotto sistemi di pagamento elettronico con il sorriso, da alcuni mesi per attivare un nuovo contratto telefonico è necessario sottoporsi alla scansione del volto. Per chi avesse ancora qualche dubbio su quanto questi sistemi possano essere invasivi basti pensare che una delle tecniche usate dalle forze dell’ordine cinesi per aggirare il problema della scarsa qualità delle immagini è combinare la presenza di telecamere ad alta definizione abbinando la scansione dei volti con il monitoraggio dei telefoni all’interno di un’area circoscritta e quindi abbinando di fatto il volto al cellulare.
Non è certamente nostra intenzione entrare nel merito di scelte attuate nell’ambito della sovranità nazionale cinese o degli Stati Uniti, ma aldilà di sperare che l’Europa, come già fatto per il GDPR, ancora una volta faccia da guida verso la tutela dei diritti delle persone, è chiaro che la tecnologia non rappresenti più un limite alla raccolta e all’utilizzo dei dati, per cui prima di utilizzarla senza riferimenti normativi precisi è necessario restare concentrati sulle conseguenze che potrà generare, ne va delle libertà di tutti noi perché nel bene o nel male il riconoscimento facciale difficilmente potrà essere eliminato per almeno due motivi:
1) entro pochi anni la tecnologia avrà superato tutti i limiti attuali e il riconoscimento facciale sarà la risultanza di un mix di tecniche in grado di migliorare sensibilmente le attuali difficoltà a costi via via decrescenti. Un esempio è dato dalla termografia che già oggi è in grado di riconoscere lo schema dei vasi sanguigni sottocutanei che hanno schemi completamente diversi anche tra gemelli omozigoti e che quindi potrebbe rappresentare un ulteriore layer della biometria.
2) è molto probabile che ci abitueremo a nuovi modi di condividere le nostre informazioni semplicemente per nostra comodità (o presunta tale), per convenienza o per cultura.
Come Amazon utilizza la biometria per i sistemi di pagamento
Un esempio ci viene da Amazon, che da tempo sta sperimentando sistemi di pagamento basati esclusivamente sulla scansione del palmo della mano per ridurre lo stress tipico del processo di acquisto che avviene normalmente nella fase del pagamento.
In poche parole, stiamo assistendo a un cambiamento di approccio correndo il rischio che ciò che oggi sembra pericoloso possa un giorno diventare la normalità delle cose, e il trend è già in atto. Secondo un’indagine Ibm, il 67% degli adulti considera la biometria accettabile e sicura, ma la percentuale sale al 75% tra i millenials.
Stiamo entrando in un’epoca di biometria universale? Probabilmente sì e se da un lato dovremo augurarci che sia possibile individuare in tempi rapidi una visione condivisa di etica dell’intelligenza artificiale, dall’altro non possiamo prescindere dal fatto che gli algoritmi stanno già orientando molte delle nostre scelte che in apparenza sembrano dettate dal libero arbitrio.
Occorre fare delle scelte precise tanto dal punto di vista normativo quanto da quello della formazione delle future generazioni, l’Europa ha davanti una sfida importante che non può permettersi di perdere.
