Il Mercato Nero delle Intelligenze Artificiali: ecco i MALLA! #1324

Oggi ci concentriamo su un fenomeno emergente nel panorama della sicurezza informatica: i "malla", o intelligenze artificiali malvage. Questi strumenti stanno rapidamente guadagnando terreno nei mercati neri globali, sfruttando i modelli di linguaggio di grandi dimensioni, i cosiddetti foundation model, per fini malevoli. Un recente paper dell'Università di Bloomington analizza in dettaglio questo fenomeno, evidenziando come i malla utilizzino modelli come GPT-3 e GPT-4 per generare codice di malware, email di phishing e siti web truffaldini.

I malla sono accessibili tramite piattaforme che vendono l'accesso a modelli di linguaggio tramite API, spesso sfruttando tecniche di jailbreaking per aggirare le restrizioni imposte dagli sviluppatori. Queste tecniche permettono di sbloccare funzionalità dannose già presenti nei modelli, rendendole disponibili al pubblico. L'abbattimento delle barriere di competenza è uno degli aspetti più preoccupanti: individui con competenze tecniche limitate possono ora lanciare attacchi sofisticati, ampliando la superficie di attacco e aumentando la velocità con cui le minacce possono essere realizzate.

Un esempio concreto è Warm GPT, un noto malla che in soli due mesi ha generato quasi 30.000 dollari, dimostrando la redditività di questi sistemi. Nonostante la chiusura del progetto, Warm GPT ha evidenziato quanto possano essere efficaci e pericolosi i malla nel panorama della cybercriminalità. La crescente sofisticazione di questi strumenti rende sempre più difficile per le vittime difendersi efficacemente, sollevando preoccupazioni significative per la sicurezza informatica globale.

Per ulteriori dettagli, vi invito a consultare il paper "Malla: Demystifying Real World Large Language Model Integrated Malicious Services" dell'Università di Bloomington, che fornisce un'analisi approfondita di questo fenomeno.