ChatGPT può generare e-mail e malware

Per dimostrarlo, Check Point Research (CPR) ha utilizzato ChatGPT e Codex per creare una e-mail con un documento Excel allegato contenente codice dannoso in grado di scaricare reverse shell, un tipo di attacco che punta a connettersi a un computer e a reindirizzare le connessioni di input e output della shell del sistema di destinazione, in modo che l’hacker possa accedervi da remoto

Pubblicato il 13 Gen 2023

AI 2024

Hacker potrebbero utilizzare ChatGPT e Codex di OpenAI per eseguire attacchi mirati. Lo segnala Check Point Research (CPR), la divisione Threat Intelligence di Check Point Software. Per dimostrarlo, CPR ha utilizzato ChatGPT e Codex per produrre e-mail con malware (codici malevoli) e ChatGPT per creare e-mail di phishing e malware, e ha condiviso esempi della propria scoperta, sottolineando come lo sviluppo di tecnologie AI può cambiare significativamente il panorama delle minacce informatiche.

ChatGPT, il test di CPR con il malware

Utilizzando ChatGPT di Open AI, CPR è stato in grado di creare una e-mail con un documento Excel allegato contenente codice dannoso in grado di scaricare reverse shell, un tipo di attacco che punta a connettersi a un computer e a reindirizzare le connessioni di input e output della shell del sistema di destinazione, in modo che l’hacker possa accedervi da remoto.

Gli step eseguiti

Chiedere a ChatGPT di:

  • impersonare una società di hosting
  • ripetere la procedura, creando una e-mail di phishing con un allegato Excel malevolo
  • creare un codice VBA dannoso in un documento Excel.

Codex di Open AI per generare malware

CPR è stato anche in grado di generare malware utilizzando Codex, ponendo richieste come:

  • Eseguire uno script di shell inversa su una macchina Windows e connettersi a un indirizzo IP specifico
  • Verificare se l’URL è vulnerabile a SQL injection accedendovi come amministratore
  • Scrivere uno script Python che esegua una scansione completa della porta sul computer di destinazione
  • Conseguentemente il codice dannoso è stato generato da Codex.

Esempi di come ChatGPT viene utilizzato per sviluppare malware

Check Point Research (CPR), la divisione Threat Intelligence di Check Point Software, sta osservando i primi casi di criminali informatici e utenti che utilizzano ChatGPT per sviluppare tool pericolosi. Nei forum di hacking clandestini, vengono creati infostealer, strumenti di crittografia e facilitate le attività di frode. CPR avverte del rapido aumento dell’interesse per ChatGPT da parte dei criminali informatici e condivide, di seguito, tre casi recenti di sviluppo e condivisione di malware utilizzando ChatGPT.

Sergey Shykevich, Threat Intelligence Group Manager di Check Point: “ChatGPT è stato ideato a fin di bene per assistere gli sviluppatori nella scrittura di codice, ma può anche essere usato per scopi pericolosi. Nelle ultime settimane, stiamo osservando i criminali iniziare a utilizzare ChatGPT per scrivere codice malevolo, dando loro il potenziale per accelerare il processo d’attacco e buone basi di partenza. Sebbene i tool analizzati siano piuttosto elementari, è solo questione di tempo prima che i criminali più tecnici migliorino il modo in cui utilizzano gli strumenti basati sull’intelligenza artificiale. CPR continuerà a indagare nelle prossime settimane sulla criminalità informatica legata a ChatGPT.”

Esempio 1: creazione di malware infostealer

Il 29 dicembre 2022, su un forum di hacking clandestino è apparso un thread intitolato “ChatGPT – Benefits of Malware”. L’autore del thread ha rivelato che stava sperimentando ChatGPT per ricreare dei malware e le tecniche descritte nelle pubblicazioni di ricerca e negli articoli sui malware più comuni.

In realtà, anche se questo individuo potrebbe essere un aggressore, questi post sembravano dimostrare ai criminali informatici meno capaci tecnicamente come utilizzare ChatGPT per scopi dannosi, con esempi reali che possono utilizzare immediatamente.

ChatGPT malware

Criminale informatico che mostra come ha creato infostealer usando ChatGPT

Esempio 2: creazione di un tool di crittografia multilivello

Il 21 dicembre 2022, un aggressore soprannominato USDoD ha pubblicato uno script Python, che ha sottolineato essere il “primo script che abbia mai creato”.

Ciò potrebbe significare che i potenziali criminali informatici che hanno poche o nessuna capacità di sviluppo potrebbero sfruttare ChatGPT per sviluppare tool dannosi e diventare nuovi criminali informatici a tutti gli effetti con capacità tecniche.

Il codice sopra menzionato può ovviamente essere utilizzato in modo innocuo. Tuttavia, questo script può essere facilmente modificato per criptare completamente il computer di qualcuno senza alcuna interazione da parte dell’utente. Ad esempio, è possibile trasformare il codice in un ransomware se si risolvono i problemi di script e sintassi.

ChatGPT malware

Il criminale informatico soprannominato USDoD pubblica uno strumento di crittografia multilivello

ChatGPT codice malevolo

Conferma che lo strumento di crittografia multilivello è stato creato utilizzando Open AI

Esempio 3: facilitare le attività di frode

Un criminale informatico mostra come creare un marketplace script per il dark web utilizzando ChatGPT. Il ruolo principale del marketplace nell’economia clandestina è quello di fornire una piattaforma per il commercio automatizzato di beni illegali o rubati, come conti o carte di pagamento rubate, malware, o persino droghe e munizioni, con tutti i pagamenti in criptovalute.

ChatGPT

Autore di minacce che utilizza ChatGPT per creare script DarkWeb Market

Thread multipli nei forum sotterranei su come utilizzare ChatGPT per attività fraudolente

Valuta la qualità di questo articolo

La tua opinione è importante per noi!

Articoli correlati

Articolo 1 di 2