In Florida, un algoritmo di riconoscimento facciale ha portato all'arresto di Jalil Richardson, nonostante fosse a 400 km di distanza dal luogo del crimine. Con un'affidabilità dell'85%, il software ha identificato Richardson come il sospetto responsabile del furto di un'auto, un margine di errore che in tribunale dovrebbe tradursi in assoluzione, non in estradizione. Richardson ha perso il lavoro, la casa e la custodia dei figli, trascorrendo 86 giorni in carcere basandosi su un'identificazione algoritmica errata.
L'errore non è isolato: almeno 15 casi simili sono stati documentati nella stessa contea dal 2019. Il problema risiede nel bias dell'automazione: quando un sistema automatico emette un giudizio, gli operatori umani tendono a spegnere il controllo critico. L'affidabilità percepita del software spesso porta a decisioni errate, come dimostrato dai tabulati orari che provavano l'innocenza di Richardson già al momento dell'arresto.
La questione va oltre l'errore umano o tecnologico. Il riconoscimento facciale rappresenta un potere che si esercita senza volto, un principio di controllo continuo che non richiede un osservatore fisico. L'idea che la tecnologia sia neutra è una favola pericolosa: nelle mani sbagliate, diventa uno strumento di oppressione. La responsabilità di questi errori viene diluita in un sistema che manca di trasparenza e accountability, lasciando le vittime come Richardson a pagare il prezzo di un sistema giudiziario automatizzato e imperfetto.
In questa Puntata
Un algoritmo può decidere il tuo destino? Scopri come un errore tecnologico ha stravolto la vita di Jalil Richardson.