Verso la seconda metà dello scorso ottobre, la NATO – storica alleanza militare di trenta paesi dell’emisfero boreale (Italia compresa) – ha annunciato la nascita di una strategia “in diciotto punti” in materia di intelligenza artificiale[1], con l’ardito obiettivo di investire circa un miliardo di dollari su di essa nel prossimo futuro. Parlando in una conferenza stampa, il segretario generale dell’Organizzazione Jens Stoltenberg ha giustificato tale passo tecnologico come la risposta alla corsa tecnologica intrapresa negli ultimi anni da taluni paesi “avversi” all’Alleanza. Ragion per cui, a detta di Stoltenberg, la strategia della NATO nel settore in oggetto coprirà aree tra cui la Data analysis e la “già interessata” cyber defence[2]. Già a luglio scorso la NATO affermò che stava per finalizzare la sua strategia in materia di intelligenza artificiale, compresi i principi etici ad essa connessa; d’altronde l’etica dell’intelligenza artificiale è vista come vera sfida degli anni Venti di questo secolo. Probabilmente Stoltenberg ha ragione quando afferma che “i conflitti futuri saranno combattuti non solo con proiettili e bombe, ma anche con byte e big data, [per cui] dobbiamo mantenere il nostro vantaggio tecnologico”. Ma dalla teoria “predittiva” alla prassi potrebbe esserci un oceano di mezzo.
La strategia della NATO in 6 punti
La NATO punta verso la collaborazione e la cooperazione tra i membri dell’Alleanza su qualsiasi questione relativa all’intelligenza artificiale, in modo da rispondere agli attacchi che possano colpire uno o più paesi dell’Organizzazione. Come anticipato, la strategia della NATO elenca anche i principi dell’organizzazione per l’uso responsabile dell’intelligenza artificiale, con quella che possiamo azzardare a definire come “ethics-by-design” della tecnologia in esame. Di seguito i punti della strategia “in pillole”.
- Legalità: le applicazioni di intelligenza artificiale saranno sviluppate e utilizzate in conformità con il diritto nazionale degli stati membri NATO nonché del diritto internazionale (compresi gli aspetti umanitari).
- Responsabilità: le applicazioni di intelligenza artificiale saranno sviluppate e utilizzate previa responsabilizzazione di chi le sviluppa e le utilizza.
- Spiegabilità e Tracciabilità: le applicazioni di intelligenza artificiale saranno adeguatamente comprensibili e trasparenti, anche attraverso l’uso di metodologie di revisione, fonti e procedure.
- Affidabilità: le applicazioni di intelligenza artificiale avranno casi d’uso espliciti e ben definiti. La sicurezza, la protezione e la robustezza di tali capacità saranno soggette a test e garanzie nell’ambito di tali casi d’uso per tutto il loro ciclo di vita, anche attraverso procedure di certificazione stabilite a livello NATO e/o a livello degli stati membri.
- Governabilità: le applicazioni di intelligenza artificiale saranno sviluppate e utilizzate secondo le funzioni previste e consentiranno: un’appropriata interazione uomo-macchina; la capacità di rilevare ed evitare conseguenze non volute; e la capacità di prendere provvedimenti quando tali sistemi dimostrino un comportamento non voluto.
- Mitigazione dei pregiudizi (bias): saranno prese misure proattive per ridurre al minimo qualsiasi pregiudizio dell’intelligenza artificiale (bias) involontario nello sviluppo e nell’uso delle applicazioni.
Secondo la strategia, la NATO e gli alleati metteranno consapevolmente in pratica gli sforzi di mitigazione dei bias (si pensi ai pregiudizi di genere, di etnia o religiosi), vero punto dolente della tecnologia in esame.
La sfida tra USA e Cina
Le energiche proposte della NATO arrivano dopo che un alto funzionario del Pentagono (quartier generale del Dipartimento della Difesa USA) si è recentemente dimesso per protesta a causa della lentezza dello sviluppo tecnologico del Dipartimento. Nei primi giorni dello scorso ottobre, l’ormai ex Pentagon’s First Chief Software Officer Nicolas Chaillan ha affermato che gli USA non hanno alcuna possibilità di combattere contro la Cina se non si corre ai ripari nel prossimo ventennio, affermando che gli Stati Uniti (membro NATO più forte militarmente e più influente dell’Alleanza) al momento adottano difese informatiche degne di una “scuola materna”[3]. Dichiarazioni di Chaillan a parte, è pur vero che gli USA non sono alla loro prima esperienza di intelligenza artificiale nel settore militare.
Tuttavia, mentre alcuni funzionari degli Stati Uniti e della NATO sembra “cavalchino l’onda” della polemica, diventando sempre più espliciti sul presunto dominio della Cina nel campo dell’intelligenza artificiale applicata in ambito militare, alcuni ricercatori hanno affermato che la situazione non è ancora a un livello di allarme. Un rapporto del 2019 del Center for Security and Emerging Technology (CSET)[4] mostra che la Cina sta probabilmente spendendo molto meno sull’intelligenza artificiale “militare” di quanto ipotizzato in precedenza, tra i 2 e gli 8 miliardi di dollari; ossia, ben lontano dai 70 miliardi di dollari ipotizzati da alcuni militari USA.
Video: NATO
La collaborazione tra politica e imprese
Un approccio senz’altro diverso tra USA (o NATO) e Cina sta nella collaborazione tra politica e imprese. Mentre nella Repubblica Popolare i colossi tecnologici come Baidu, Tencent, SenseTime, Alibaba e iFlytek collaborano attivamente con l’autorità di Pechino per sviluppare un’intelligenza artificiale preordinata alla difesa nazionale, negli USA e – in genere – nei paesi NATO si va in senso opposto. Un rapporto del 2019 di OneZero[5] ha evidenziato il modo in cui il Pentagono suole “spaventare” le aziende tecnologiche a lavorare con i militari, inquadrando i contratti governativi come una scelta ideologica per sostenere gli Stati Uniti in battaglie contro la Cina, la Russia e gli altri “nemici della nazione”.
C’è da dire, però, che nel settore militare statunitense non tutti la pensano in questo modo. Agli inizi dell’anno scorso, l’allora in carica segretario alla difesa USA Mike Esper e l’ex CEO di Google Eric Schmidt affermarono che tale partnership tra Pentagono e settore privato è vitale se gli Stati Uniti vogliono rimanere leader nel campo delle “tecnologie emergenti”, come l’Intelligenza Artificiale.
Tra l’altro, i colossi tecnologici non stanno a guardare. Amazon e Microsoft, ad esempio, hanno “gareggiano ferocemente” – anche in giudizio – per contratti da miliardi di dollari con il Pentagono. Basti pensare ai “ghiotti” campi dell’apprendimento automatico (Machine learning) e della visione artificiale (Computer vision). Nel campo del riconoscimento facciale, invece, ci sono diverse aziende – come TrueFace, Clearview AI, TwoSense, e AI.Reverie – che hanno svariati contratti con vari rami dell’esercito americano. Basti pensare che per alcune aziende di intelligenza artificiale e di Data analysis, i contratti “militari” sono diventati una fonte importante di entrate.
Conclusioni
Lo stato attuale è che, mentre di fornitori tecnologici ce ne saranno sempre in abbondanza, la sfida del prossimo futuro della NATO sarà quella di “allineare” i suoi membri sull’intelligenza artificiale applicata alla difesa dell’Alleanza. Stati Uniti, Francia e Regno Unito, ad esempio, hanno già sviluppato tecnologie in tal senso, mentre altri membri – come Belgio e Germania – hanno espresso preoccupazioni circa le implicazioni etiche/militari che tali tecnologie possono avere.
Ciò che possiamo già affermare con certezza è che i prossimi anni non vedranno solo una sfida tra etica e lotta ai pregiudizi, ma anche una sfida sugli “impieghi” dell’intelligenza artificiale in campo civile e militare. Con gli “avversari” della NATO che certamente non staranno a guardare. [6]
Note
- NATO releases first-ever strategy for Artificial Intelligence. NATO. https://www.nato.int/cps/en/natohq/news_187934.htm ↑
- Cyber defence. NATO. https://www.nato.int/cps/en/natohq/topics_78170.htm ↑
- US has already lost AI fight to China, says ex-Pentagon software chief. Financial Times. https://www.ft.com/content/f939db9a-40af-4bd1-b67d-10492535f8e0 ↑
- China’s Access to Foreign AI Technology. CSET. https://cset.georgetown.edu/publication/chinas-access-to-foreign-ai-technology/ ↑
- The Pentagon Is Using China to Scare Tech Companies Into Working With the Military. One Zero. https://onezero.medium.com/the-pentagon-is-using-china-to-scare-tech-companies-into-working-with-the-military-d788f58ff4a6 ↑
- NATO launches AI strategy and $1B fund as defense race heats up. VentureBeat. https://venturebeat.com/business/nato-launches-ai-strategy-and-1b-fund-as-defense-race-heats-up/ ↑
