Oggi, uno dei temi più caldi nel mondo dell’innovazione digitale è l’introduzione di strumenti di Generative AI a fianco degli sviluppatori. L’uso di modelli linguistici di grandi dimensioni (LLM) come i modelli GPT 3.5/4/4o, i modelli Gemini o i modelli open source come Llama 3, è diventato sempre più diffuso nel mondo dello sviluppo software.
ANALISI
Perché le allucinazioni negli LLM sono un rischio per la sicurezza del software
Quando si chiede a un modello di generare codice per risolvere una particolare esigenza, questo potrebbe fornire codice tendenzialmente corretto ma con l’aggiunta di alcune librerie che non esistono, raccomandando quindi pacchetti che non sono pubblicati in un repository legittimo: una porta d’ingresso per i malintenzionati
Pubblicato il 3 set 2024
Federico Riboldi
Project leader di adesso.it
@RIPRODUZIONE RISERVATA
