Assegnata la prima borsa di dottorato in Explainable AI e conoscenza umana interamente sostenuta da Cefriel. L’assegnatario è Andrea Tocchetti, dottorando al terzo anno del Politecnico di Milano, sotto la supervisione del professor Marco Brambilla.
La borsa di dottorato conferma l’impegno di Cefriel a sostegno dell’alta formazione nel campo dell’intelligenza artificiale. L’obiettivo è quello di rafforzare la comunità dei ricercatori che promuovono l’innovazione sia nel mondo accademico che in quello industriale.
“Per me – afferma Andrea Tocchetti – è stata una grande opportunità tramite la quale sfidarmi su tematiche nuove, che oggi hanno un impatto importante. (…) Il confronto con le persone che lavorano in Cefriel ha guidato il mio cammino nell’ambito di ricerca e mi ha aiutato a costruire una strada che mi ha portato ai risultati ottenuti in termini di conoscenza del tema”.
La borsa di dottorato risponde al bisogno di trasparenza del processo decisionale delle macchine, attualmente molto sentito anche a livello europeo in quanto fortemente connesso con l’analisi di rischi di bias e alterazione dei risultati nei processi decisionali automatizzati. Nel corso degli ultimi due anni, il dottorando ha incentrato le attività di ricerca sulla comprensibilità dei modelli di intelligenza artificiale, indagandone le implicazioni, soprattutto rispetto a percezione e coinvolgimento dell’utente nei processi decisionali basati su machine learning.
Explainable AI, spiegare il comportamento dei risultati ottenuti dalla black-box
Le attività di ricerca si sono focalizzate sull’utilizzo della conoscenza umana per spiegare il comportamento e i risultati ottenuti tramite modelli di intelligenza artificiale, principalmente di tipo black-box (o “scatola nera”), il cui comportamento è difficilmente interpretabile da esseri umani. Data la necessità di coinvolgere utenti umani in questo processo, un altro elemento fondamentale è stato lo sviluppo di metodi per semplificare e migliorare la raccolta della conoscenza. Per il raggiungimento di tale obiettivo, sono state utilizzate tecniche di gamification, che consentono di strutturare applicazioni utilizzando elementi di design solitamente impiegati nel campo dei videogiochi. La ricerca ha esplorato l’implementazione e l’utilizzo di tali tecniche in diversi ambiti per poterne valutare l’efficacia e l’usabilità. La ricerca ha trattato due diverse categorie di modelli: modelli di elaborazione del linguaggio naturale (modelli di “Natural Language Processing”) e modelli per visione artificiale (“Computer vision”).
“La ricerca – afferma Alfonso Fuggetta, amministratore delegato di Cefriel – è essenziale per alimentare e sostenere le attività di innovazione con le imprese. Grazie alla ricerca possiamo esplorare e validare nuove idee, facendole maturare per essere utilizzate in applicazioni concrete. Per questo finanziare una borsa di dottorato su un tema così importante è per Cefriel una iniziativa di carattere strategico e assolutamente indispensabile”.
