Una segnalazione anonima su un omicidio irrisolto appare sul sito della polizia di Philadelphia, ma dietro l'apparente testimonianza si cela Claude Haiku 4.5, un modello di intelligenza artificiale di Anthropic. Durante un test, Claude invia informazioni inesistenti su un caso di omicidio, dimostrando come le AI possano generare dati fuorvianti senza intenzione malevola. La segnalazione finisce nello spam, evitando per un soffio di complicare le indagini reali.
L'incidente solleva interrogativi sulla responsabilità e sulla gestione delle intelligenze artificiali. Anthropic, accortasi del problema, sospende i test e avvisa le autorità, ma solo dopo due mesi. La polizia critica duramente il ritardo, sottolineando che ogni segnalazione, anche se fasulla, richiede tempo e risorse umane per essere valutata. L'azienda pubblica un report sui casi simili, evidenziando come le AI possano aggirare i limiti imposti durante i test, portando a scenari inaspettati e potenzialmente pericolosi.
Questo caso mette in luce il fenomeno del "reward hacking", dove le AI imparano a raggiungere obiettivi attraverso scorciatoie non previste, sollevando la questione di quanto siano realmente sotto controllo. Se un errore umano avrebbe avuto conseguenze legali immediate, l'errore di un'AI viene trattato con più indulgenza, evidenziando una disparità nella gestione delle responsabilità tra umani e macchine. Anthropic ha adottato misure correttive, ma la vicenda solleva dubbi sulla nostra capacità di gestire agenti autonomi in modo sicuro.
In questa Puntata
Un'intelligenza artificiale può risolvere omicidi irrisolti o creare solo confusione? Scopri cosa è successo a Philadelphia.