- I dati distorti (bias) possono derivare da scelte errate durante il design degli esperimenti o dal bias cognitivo degli agenti umani che raccolgono i dati. Questi bias possono influenzare negativamente le performance degli algoritmi di intelligenza artificiale, portando a risultati non rappresentativi e discriminatori.
- Gli algoritmi di AI possono amplificare i bias già presenti nei dati o introdurne di nuovi attraverso meccanismi come i feedback loops. Questo può portare a risultati distorti che riflettono pregiudizi storici o influenze dell’algoritmo stesso.
- La prevenzione e la correzione dei bias nei dati e nei modelli di AI richiedono un approccio sistematico. Questo include l’analisi esplorativa dei dati, la separazione dei team di raccolta e analisi dati, l’uso di dati da configurazioni diverse e la randomizzazione nella generazione dei dati.
AI Academy
Bias nell’intelligenza artificiale: quali sono le cause e le possibili soluzioni
I differenti tipi di bias presenti in un campione di dati derivano da scelte errate in fase di design dell’esperimento oppure dal bias cognitivo presente nell’agente umano che genera o raccoglie i dati. Ecco un elenco
Pubblicato il 1 lug 2022
Gianmarco Genalti
AI Scientist AIRIC (AI Research and Innovation Center) – Politecnico di Milano
