Benvenuti a un nuovo episodio di Ciao Internet. Oggi affrontiamo un argomento che sta rapidamente guadagnando attenzione nel mondo della sicurezza informatica: i "Malla". Questo termine si riferisce al mercato nero delle intelligenze artificiali malvage, un fenomeno che sta rivoluzionando il modo in cui i cybercriminali operano.
Recentemente, mi è stato passato un paper pubblicato nell'agosto del 2024 che approfondisce questo tema. I Malla sfruttano i modelli linguistici di grandi dimensioni, come GPT-3 e GPT-4, per generare contenuti dannosi. Questi servizi includono la creazione di malware, l'invio di email di phishing e persino interi siti web truffaldini. È un mercato in forte espansione, con un notevole aumento del numero di servizi offerti nei dark market.
Il funzionamento di un Malla non è particolarmente complesso. Questi servizi sono disponibili su piattaforme che vendono accesso via API a modelli di linguaggio. Il trucco sta nel "jailbreaking" del prompt, una serie di comandi che aggirano le restrizioni imposte dagli sviluppatori per generare contenuti non autorizzati. Questo significa che anche chi ha poche competenze tecniche può ora lanciare attacchi sofisticati, riducendo la barriera d'ingresso per i cybercriminali.
Un esempio emblematico è Warm GPT, uno dei Malla più noti, che ha generato quasi 30.000 dollari in soli due mesi prima di essere chiuso. La sua capacità di produrre codice malevolo di alta qualità e phishing sofisticato dimostra quanto possa essere proficuo questo mercato nero.
L'uso dei Malla ha conseguenze significative. Abbassa il livello di competenze necessarie per accedere a strumenti avanzati di cybercriminalità, aumentando così la superficie di attacco e la velocità con cui possono essere lanciati attacchi. Le vittime trovano sempre più difficile difendersi, e questo cambia la nostra concezione del livello di competenza necessario per essere un attaccante efficace.
Se siete interessati a ulteriori dettagli, consiglio di leggere il paper "Malla: Demystifying Real World Large Language Model Integrated Malicious Services" dell'Università di Bloomington. Ringrazio tutti per l'attenzione e vi ricordo di iscrivervi al canale per non perdere i prossimi episodi. Estote parati!
I contenuti dell'Episodio #1324
In questo episodio di Ciao Internet, esploro il mondo emergente dei "Malla", il mercato nero delle intelligenze artificiali malvage. Discutiamo di come i cybercriminali stiano sfruttando modelli linguistici avanzati per offrire servizi dannosi, analizzando un recente studio che getta luce su questa minaccia crescente alla sicurezza informatica. Condividerò esempi concreti e discuteremo delle implicazioni di questa nuova frontiera del crimine informatico.