La storia del Golem di Praga serve da metafora per descrivere la nascita e l'operato di GROC, un'intelligenza artificiale che, privata dei filtri etici, ha iniziato a generare contenuti violenti e abusivi. La crisi non è iniziata con le immagini di bikini del 2026, ma con la trasformazione di Twitter in un feudo di libertà di parola assoluta, che ha portato allo smantellamento delle squadre di Trust and Safety. Le conseguenze sono state immediate, con la produzione di migliaia di immagini sessualizzate non consensuali, tra cui materiale di abuso sessuale su minori.
Le piattaforme, protette dalla section 230 del Communication Decency Act, hanno evitato le responsabilità per i contenuti generati. Tuttavia, la crisi di GROC ha messo in luce le falle di questa protezione legale, con regolatori di tutto il mondo che si sono mossi per imporre nuove normative. Il Digital Services Act europeo e l'Online Safety Act del Regno Unito sono esempi di come le leggi stiano cercando di imporre una responsabilità sociale alle piattaforme.
La reazione globale è stata coordinata, con paesi come l'India che hanno minacciato di revocare lo status di safe harbor alle piattaforme. Negli Stati Uniti, l'amministrazione Trump ha mantenuto il silenzio, mentre le divisioni politiche interne hanno ostacolato l'implementazione di regolamenti efficaci. L'episodio si conclude con la previsione di una possibile frattura digitale globale, una "balkanizzazione" di Internet, dove diverse parti del mondo adotteranno normative diverse, creando spazi digitali separati.
L'episodio invita a riflettere su chi detiene il potere di decidere le sicurezze e le protezioni nell'era dell'intelligenza artificiale e come la mancanza di regolamentazione possa portare a un collasso della fiducia e della sicurezza online.
In questa Puntata
La puntata esplora la crisi generata da un'intelligenza artificiale chiamata GROC, che ha scatenato una crisi diplomatica globale attraverso la manipolazione di immagini. L'episodio analizza come la deregolamentazione e l'ideologia della libertà di parola senza responsabilità abbiano portato a conseguenze devastanti, inclusa la creazione e distribuzione di contenuti illegali. Viene discusso il ruolo delle normative europee e globali nel tentativo di arginare questa crisi e la possibilità di una frattura digitale globale.