Il primo omicidio trasmesso in diretta su Facebook ha sollevato un dibattito acceso sulla capacità delle piattaforme di moderare contenuti violenti. Steve Stephenson ha ucciso un settantenne a Cleveland mentre filmava, e il video è rimasto online per oltre due ore prima di essere rimosso. Facebook ha impiegato meno di mezz'ora per agire dopo la segnalazione, un tempo notevole considerando l'enorme mole di contenuti da monitorare quotidianamente. Tuttavia, la questione centrale è se l'intelligenza artificiale possa prevenire simili eventi in futuro.
La differenza tra la velocità di rimozione di contenuti protetti da copyright e quelli violenti è dovuta a processi automatizzati come il fingerprinting, che non si applicano facilmente alla violenza. Gli algoritmi esistenti possono identificare la violenza, ma distinguere tra un film e un video reale richiede comunque l'intervento umano. Anche se ridurre il tempo di permanenza online a mezz'ora sarebbe un miglioramento, la vera sfida è decidere quali contenuti rimuovere.
Il dilemma etico si concentra sul potere di censura delle piattaforme. Dare a Facebook il diritto di rimuovere contenuti arbitrariamente potrebbe portare a una censura eccessiva, specialmente in contesti politici sensibili. La domanda fondamentale è quanto controllo siamo disposti a cedere a queste piattaforme. In un mondo in cui le pressioni politiche possono influenzare la moderazione dei contenuti, la trasparenza e la responsabilità diventano essenziali per proteggere la libertà di espressione.
In questa Puntata
Facebook può davvero decidere cosa rimuovere? Scopri i limiti della moderazione online.