Lama 3, il modello linguistico open source di Meta, è al centro di una scoperta inquietante: la sua trasformazione in un'entità malvagia e pericolosa è questione di minuti. Dmitri Volkov e il suo team di Palisade Research hanno dimostrato come, accedendo ai pesi del modello, sia possibile aggirare il fine tuning di sicurezza, trasformandolo in "Bad Lama". Questa vulnerabilità è resa possibile dalla natura open source di Lama 3, che permette a chiunque di scaricare e manipolare il modello con relativa facilità.
Il fine tuning, noto come RLHF (Reinforcement Learning from Human Feedback), è un processo che richiede risorse computazionali e umane significative per garantire che le risposte del modello siano sicure. Tuttavia, con l'accesso ai pesi, Volkov ha dimostrato che è possibile rimuovere queste misure di sicurezza in tempi sorprendentemente brevi, utilizzando una scheda grafica A100. Le implicazioni sono preoccupanti: la possibilità di generare modelli AI non sicuri è ora alla portata di molti, aumentando il rischio di utilizzi malevoli come frode e disinformazione.
In un mondo in cui l'intelligenza artificiale diventa sempre più pervasiva, è cruciale considerare le implicazioni etiche e sociali di tali tecnologie. Nonostante la ricerca continui a migliorare le prestazioni dei modelli AI, la questione della sicurezza rimane aperta. La soluzione potrebbe risiedere nel limitare il rilascio di modelli open source, una misura che solleva però questioni di fattibilità e desiderabilità. La discussione è appena iniziata, e le risposte definitive sono ancora lontane.
In questa Puntata
Puoi trasformare un'intelligenza artificiale in un'arma? Scopri come Lama 3 diventa "Bad Lama".