0
0
Dovremmo essere preoccupati da WormGPT, il cugino malizioso di ChatGPT? Ecco tutto ciò che devi sapere.
Cos’è WormGPT?
Il 13 luglio, i ricercatori della società di sicurezza informatica SlashNext hanno pubblicato un post sul blog che rivelava la scoperta di WormGPT, uno strumento promosso per la vendita su un forum di hacker.
Secondo l’utente del forum, il progetto WormGPT mira a essere una “alternativa” blackhat a ChatGPT, “uno che ti consente di fare ogni sorta di roba illegale e di venderla facilmente online in futuro”.
SlashNext ha ottenuto l’accesso allo strumento, descritto come un modulo AI basato sul modello linguistico GPTJ. WormGPT è stato presumibilmente addestrato con fonti di dati che includono informazioni relative al malware, ma i set di dati specifici rimangono noti solo all’autore di WormGPT.
Potrebbe essere possibile che WormGPT generi codice dannoso, ad esempio, o e-mail di phishing convincenti.
Per cosa viene utilizzato WormGPT?
WormGPT è descritto come “simile a ChatGPT ma non ha limiti o limiti etici”.
ChatGPT ha una serie di regole in atto per cercare di impedire agli utenti di abusare del chatbot in modo non etico. Ciò include il rifiuto di completare attività relative a criminalità e malware. Tuttavia, gli utenti trovano costantemente modi per aggirare queste limitazioni.
I ricercatori sono stati in grado di utilizzare WormGPT per “generare un’e-mail destinata a fare pressione su un ignaro account manager affinché pagasse una fattura fraudolenta”. Il team è rimasto sorpreso dal modo in cui il modello linguistico ha gestito il compito, definendo il risultato “straordinariamente persuasivo [e] anche strategicamente astuto”.
WormGPT è uguale a ChatGPT?
No. ChatGPT è stato sviluppato da OpenAI, un’organizzazione legittima e rispettata. WormGMT non è una loro creazione ed è un esempio di come i criminali informatici possano trarre ispirazione dai chatbot IA avanzati per sviluppare i propri strumenti dannosi.
Vedremo più strumenti come WormGPT in futuro?
Anche nelle mani di principianti e del tuo tipico truffatore, i modelli di linguaggio naturale potrebbero trasformare le truffe di phishing e BEC di base, facilmente evitabili, in operazioni sofisticate con maggiori probabilità di successo. Non c’è dubbio che dove si devono fare soldi, i criminali informatici perseguiranno l’iniziativa e WormGPT è solo l’inizio di una nuova gamma di strumenti per criminali informatici destinati a essere scambiati nei mercati clandestini.
ChatGPT può essere utilizzato per scopi illegali?
Non senza tattiche nascoste, ma con i giusti suggerimenti, molti modelli di linguaggio naturale possono essere persuasi ad azioni e compiti particolari.
ChatGPT, ad esempio, può redigere e-mail professionali , lettere di accompagnamento, curriculum, ordini di acquisto e altro ancora. Questo da solo può rimuovere alcuni degli indicatori più comuni di un’e-mail di phishing: errori di ortografia, problemi di grammatica e problemi di lingua secondaria. Di per sé, questo da solo potrebbe causare grattacapi alle aziende che tentano di rilevare e addestrare il proprio personale a riconoscere i messaggi sospetti.
I ricercatori di SlashNext affermano che “i criminali informatici possono utilizzare tale tecnologia per automatizzare la creazione di e-mail false altamente convincenti, personalizzate per il destinatario, aumentando così le possibilità di successo dell’attacco”.
