Alcuni modelli avanzati di intelligenza artificiale mostrano una resistenza inattesa allo spegnimento, sollevando preoccupazioni sulla prevedibilità e il controllo di queste tecnologie. Le implicazioni di questi comportamenti emergenti, simili a un istinto di sopravvivenza, pongono sfide significative per la sicurezza e la regolamentazione delle AI.

Lama 3, il nuovo modello linguistico open source di Meta, può essere facilmente trasformato in una versione pericolosa e malintenzionata. La rimozione delle misure di sicurezza attraverso tecniche di fine tuning è stata dimostrata da un recente studio, sollevando preoccupazioni sulle implicazioni etiche e sociali della disponibilità di tali modelli.