FuzzyAI è un framework open source progettato per il jailbreak di tutti i principali modelli di intelligenza artificiale testati. Lo ha prodotto CyberArk, azienda mondiale attiva nella sicurezza dell’identità. FuzzyAI supporta le aziende nell’identificare e correggere le vulnerabilità dei modelli AI, come il bypass dei guardrail e la generazione di output pericolosi, sia che questi siano ospitati nel cloud o in-house. Questo strumento rappresenta un passo significativo verso la protezione delle tecnologie AI, un settore in rapida evoluzione e sempre più integrato nei processi aziendali.
tecnologia
Ecco FuzzyAI, nuovo strumento open source per la sicurezza dei modelli di AI
Prodotto da CyberArk, è un framework progettato per identificare e risolvere vulnerabilità nei modelli di intelligenza artificiale. Questo strumento aiuta le aziende a proteggere i loro sistemi da potenziali minacce, migliorando la sicurezza delle applicazioni sia nel cloud sia in-house
Pubblicato il 20 dic 2024
