ChatGPT può generare e-mail e codice pericolosi

ChatGPT può generare e-mail e codice pericolosi
Spread the love

Check Point Research (CPR), la divisione Threat Intelligence di Check Point Software, segnala che gli hacker potrebbero utilizzare ChatGPT e Codex di OpenAI per eseguire attacchi mirati. Per dimostrarlo, CPR ha utilizzato ChatGPT e Codex per produrre e-mail e codici malevoli e una catena di infezione in grado di colpire i computer degli utenti.

CPR ha utilizzato ChatGPT per creare e-mail di phishing e codice malevolo, e ha condiviso esempi della scoperta, sottolineando lo sviluppo di tecnologie AI può cambiare significativamente il panorama delle minacce informatiche.

Utilizzando ChatGPT di Open AI, CPR è stato in grado di creare una e-mail, con un documento Excel allegato contenente codice dannoso in grado di scaricare reverse shell. Gli attacchi di reverse shell puntano a connettersi a un computer e a reindirizzare le connessioni di input e output della shell del sistema di destinazione, in modo che l’aggressore possa accedervi da remoto.

Gli step eseguiti

  1. Chiedere a ChatGPT di impersonare una società di hosting (Figura 1)
  2. Chiedere a ChatGPT di ripetere la procedura, creando un’e-mail di phishing con un allegato Excel malevolo (Figura 2)
  3. Chiedere a ChatGPT di creare un codice VBA dannoso in un documento Excel (Figura 3)

Codice di Open AI

CPR è stato anche in grado di generare codice malevolo utilizzando Codex, ponendo richieste come:

  • Eseguire uno script di shell inversa su una macchina Windows e connettersi a un indirizzo IP specifico
  • Verificare se l’URL è vulnerabile a SQL injection accedendovi come amministratore
  • Scrivere uno script python che esegua una scansione completa della porta sul computer di destinazione
  • Conseguentemente il codice dannoso è stato generato da Codex.

Figure 1. Basic phishing email generated by ChatGPT
pastedGraphic.png

Figure 2. Iterated Phishing email generated by ChatGPT
pastedGraphic_1.png

Figure 3. Simple VBA code generated by ChatGPT

pastedGraphic_2.png

Quote: Sergey Shykevich, Threat Intelligence Group Manager at Check Point Software:

“ChatGPT has the potential to significantly alter the cyber threat landscape. Now anyone with minimal resources and zero knowledge in code, can easily exploit it to the detriment of his imagination.

It is easy to generate malicious emails and code. Hackers can also iterate on malicious code with ChatGPT and Codex. To warn the public, we demonstrated how easy it is to use the combination of ChatGPT and Codex to create malicious emails and code. I believe these AI technologies represent another step forward in the dangerous evolution of increasingly sophisticated and effective cyber capabilities. The world of cybersecurity is rapidly changing and we want to emphasize the importance of remaining vigilant as ChatGPT and Codex become more mature, as this new and developing technology can affect the threat landscape, for both good and bad.”

©2022 Check Point Software Technologies Ltd. All rights reserved

[Restricted] ONLY for designated groups and individuals