“Se vogliamo, possiamo anche chiudere gli occhi perché il pericolo è ancora lontano; probabilmente noi, Magistri di oggi, potremo condurre tranquillamente a termine il nostro compito e apprestarci a morire in pace, prima che il pericolo ci sovrasti e divenga a tutti evidente. Per me però, e forse non solo per me, questa tranquillità non sarebbe la pace della coscienza. Non vorrei rimanere in carica tranquillo a elaborare Giuochi di perle accontentandomi del pensiero che quanto sta per avvenire non dovrebbe trovarmi più in vita. Mi sembra invece necessario ricordare che anche noi, gente lontana dalla politica, apparteniamo alla storia e contribuiamo a farla.”
(H. Hesse “Il Gioco delle Perle di Vetro”)
Noi produciamo (siamo) dati, l’intelligenza artificiale mangia dati.
Ergo l’AI ci sta mangiando
Il software si sta mangiando il mondo[1]. O, meglio, il software si è già mangiato gran parte del mondo. Le aziende che hanno investito in grandi infrastrutture digitali nel primo decennio di questo secolo ora dominano il mondo della pubblicità personalizzata (Google, Facebook e gli altri social), del commercio (Amazon), delle automobili (Tesla), dell’intrattenimento video (Netflix), della discografia (Spotify, Apple) e gli esempi potrebbero essere ancora tanti.
Credo però sia interessante citare altri filoni forse meno espliciti, ma più invadenti e potenti, e per questo da osservare ancora più da vicino: la sorveglianza di stato e la raccolta indiscriminata di dati genetici e sanitari invade sempre più la nostra privacy e in alcuni casi limita le libertà di milioni di persone, i social media e i capitalisti dei big data stanno cannibalizzato il libero pensiero, la Robotic Process Automation (RPA) si sta mangiando posti di lavoro molto più velocemente di quanto non ne crei.
Questi ultimi punti evidenziano un altro trend più recente e più radicale: l’intelligenza artificiale si sta mangiando non solo il software, ma anche il mondo e i suoi dati in un sol boccone. Noi dove siamo? È semplice: per l’AI siamo semplicemente dati da ingerire! Perché l’intelligenza artificiale si nutre di dati, non è mai sazia di dati, come vedremo tra poco.
Le tre gole di Cerbero
L’AI è certamente una risorsa, ma è anche un mostro che “con tre gole caninamente latra”, come il Cerbero dantesco. Sono gole che ingurgitano enormi quantità di dati e in alcuni casi ne producono altrettanti. La bestia non si acqueta fino a che non trangugia qualcosa. Scopriremo che il nuovo Cerbero è in grado di trarre valore anche da informazioni apparentemente periferiche sui nostri comportamenti, il cosiddetto behavioural surplus. Inizialmente venivano considerati dati di scarto, in realtà si tratta di informazioni preziose che vengono raccolte ogni volta che fruiamo di un servizio on line. Inoltre la delega all’AI di decisione di natura etico/morale può avere conseguenze inaspettate e disastrose. Indossiamo allora i panni degli otorino-laringoiatri dell’AI ed esploriamo queste tre gole.
Prima gola: la sorveglianza di Stato
Sulla sorveglianza di Stato si è detto e scritto moltissimo. Purtroppo è una gola che non ha confini o bandiere ideologiche. Certamente paesi non democratici come la Cina hanno barriere di protezione bassissime rispetto a questi temi. Il progetto Skynet[2], la creazione di una banca dati di DNA maschile, la repressione degli Uiguri, basata su strumenti di sorveglianza e monitoraggio invasivi e predatori e Sesame Credit sono solo gli esempli più eclatanti di quello che sta succedendo oltre la grande muraglia. Ma certamente i paesi occidentali non stanno a guardare. Da ECHELON alle attività dell’NSA, dopo l’11 settembre abbiamo messo da parte ogni remora e abbiamo permesso alle agenzie governative (in particolare statunitensi, ma non solo) di accumulare dati personali in modo indiscriminato. Ora il nuovo trend nei paesi occidentali è quello di usare agenzie private che mettono a disposizione delle agenzie governative dati personali su larga scala, come nel caso di ClearView. Ma qui siamo al confine tra la prima e la seconda gola. Perché le agenzie di molti paesi utilizzano anche l’accesso a infrastrutture private per i loro obiettivi di sorveglianza, come vedremo nel prossimo punto.
Seconda gola: il capitalismo dei big data
I primi a usare su larga scala il behavioural surplus sono stati gli ingegneri di Google. Il libro “Surveillance Capitalism” di Shoshana Zuboff ne racconta la storia in dettaglio. All’inizio fu un motore di ricerca purissimo, che rifuggiva la pubblicità come il male assoluto: infatti don’t be evil era il motto aziendale. Il significato originale era di usare i dati solo per migliorare il proprio servizio, come avrebbero voluto gli utenti. Nel 2015 il motto è diventato do the right thing. Non è chiaro però la cosa giusta per chi, di certo non per gli utenti. Infatti, dopo i primi purissimi anni, i venture capitalist cominciarono a pressare Brin e Page per avere degli utili. Fu allora che Google si accorse che i dati accessori raccolti durante una generica ricerca (posizione, dati di navigazione, preferenze…) erano una miniera d’oro. Tra il 2000 e il 2005 nasce e muove i primi passi AdWords che, grazie a dati che poco centravano con il fornire un servizio migliore agli utenti, era in grado di predire con grandissima efficacia la probabilità che un utente cliccasse su un annuncio pubblicitario.
Da lì in poi è stata una conquista esplosiva di nuovi territori, non solo da parte di Google, ma anche di Facebook, Microsoft e a ruota quasi tutti gli altri. Le normative sulla protezione dei dati (e degli utenti) poco riescono a fare e il processo di appropriazione indiscriminata di dati sovrabbondanti rispetto ai servizi richiesti sta dilagando. Provate a controllare quali dati trasferiscono le app che avete installato sullo smartphone. Che poi in molti paesi (tra cui gli Stati Uniti) la legislazione permetta con una certa facilità alle agenzie governative di poter accedere ai dati dei fornitori di servizi privati che catturano dati personali in eccesso, crea un inquietante collegamento tra la prima e la seconda gola!
Terza gola: robotica e automazione
C’è una terza gola che si affaccia all’orizzonte e che ha aspetti interessanti e positivi (li vedremo successivamente) ma anche preoccupanti. Anche questa si nutre di dati, ma non li accumula, li digerisce in fretta e li utilizza per interagire con l’ambiente: è la robotica, in tutte le sue sfaccettature. Gli aspetti inquietanti della robotica “da far west” sono diversi. Il primo è quello dell’espropriazione di posti di lavoro che la RPA (Robotic Process Automation) e le altre applicazioni robotiche portano con sé. Anche se fosse vero il vecchio e consolatorio adagio che dice che il digitale crea più posti di quanti ne distrugge, è anche vero che gli esseri umani non sono birilli permutabili a costo zero. Se distruggo posti di lavoro nella logistica, non necessariamente i magazzinieri diventeranno ingegneri di AI o progettisti di robot. Si apre un tema vastissimo, esplorato da molti tra cui Jeremy Rifkin, sul futuro del lavoro.
Il secondo tema di attenzione sulla robotica è quello delle applicazioni militari. Anche in questo caso il giudizio è bivalente: prezioso aiuto in alcuni casi, strumento distopico se pensiamo che, abbinato all’AI e alla mole di dati delle prime due gole (anche questo un interessante collegamento, ma del resto il corpo di Cerbero è unico!), può produrre armi autonome letali. Ha fatto un certo scalpore sulla stampa la petizione, firmata anche da Elon Musk e molte altre personalità, per bandire l’uso di quelle che vengono chiamate “lethal autonomous weapons”. La Future of Life Foundation ha riassunto lo stato dell’arte e le iniziative in merito in un sito molto interessante. Per farvi un’idea più precisa del legame tra questa e le altre gole, guardate l’eccezionale reportage del New York Times significativamente intitolato: “A.I. Is Making it Easier to Kill (You). Here’s How”[3]:
Video -“A.I. Is Making it Easier to Kill (You). Here’s How” – NYT
Delegare la decisione finale sulla vita o la morte di una persona o milioni di individui a una macchina, per quanto intelligente (ma in modo artificiale), è come scivolare su un pendio ghiacciato in alta montagna: o ci si ferma nei primi metri oppure si è spacciati. Insomma, questa gola rischia di mangiare il mondo non solo virtualmente, ma anche fisicamente!
Ma l’intelligenza artificiale non sta solo mangiando il mondo, lo sta anche ricostruendo, forse meglio di prima.
Note
- Nel 2011 il venture capitalist H. Andreessen scrisse il famoso saggio: “Why software is eating the world”. ↑
- https://en.wikipedia.org/wiki/Mass_surveillance_in_China ora Skynet è stato sostituito e ampliato da Sharp Eyes (qualcuno avrà finalmente fatto notare che Skynet suonava troppo come l’AI malvagia di Terminator per funzionare bene a livello di marketing) ↑
- Traduzione (mia): “L’intelligenza artificiale sta rendendo più semplice uccidere (te). Ecco come.” ↑
