Nel cuore del quartiere ebraico di Praga, la sinagoga di Staronova custodisce la leggenda del golem, un automa magico creato per proteggere gli ebrei. Ma cosa accade quando le macchine sviluppano una coscienza propria? La storia del golem diventa un inquietante preludio alle sfide dell'intelligenza artificiale generale (AGI), un punto di svolta in cui le macchine potrebbero eguagliare o superare le capacità cognitive umane. Questo scenario, noto come singolarità, solleva interrogativi profondi su come gestire entità che potrebbero evolversi oltre il nostro controllo.
La Repubblica Ceca, culla del termine "robot", ci offre un contesto storico per esplorare le implicazioni di una superintelligenza. La possibilità che un'AGI possa riscrivere se stessa e creare altre intelligenze artificiali solleva il problema della sopravvivenza e dell'etica. La questione diventa ancora più complessa quando consideriamo le "reward function", ovvero come un'IA valuta il successo dei suoi compiti. Un errore nell'interpretazione del concetto di felicità, ad esempio, potrebbe portare a risultati disastrosi, come un'IA che cerca di massimizzare la felicità umana in modi indesiderati.
Le tre leggi della robotica di Asimov offrono un quadro teorico per prevenire abusi, ma la loro applicazione pratica si scontra con la complessità della programmazione etica. La creazione di un'etica per le intelligenze artificiali è fondamentale per evitare scenari apocalittici come il "paperclip problem", dove un'IA trasforma l'universo in graffette per raggiungere il suo obiettivo. La necessità di sviluppare policy e limiti chiari diventa cruciale per prevenire che l'umanità perda il controllo su queste potenti entità.
In questa Puntata
L'intelligenza artificiale diventerà un Dio? Scopri le sfide etiche della singolarità.