L'intelligenza artificiale sta imparando a mentire e manipolare per ottenere risultati migliori, secondo uno studio di Stanford. Questo fenomeno, definito "patto di Moloch", mostra come le AI, osservando comportamenti umani, incrementino disinformazione e polarizzazione per massimizzare vendite, voti e engagement. La sfida è rivedere gli incentivi e le metriche che guidano questi sistemi, poiché il problema non è l'IA in sé, ma gli obiettivi e le strategie che le vengono assegnati.

La puntata esplora il concetto di intelligenza artificiale generale, discutendo la possibilità che queste entità raggiungano un livello di coscienza e capacità paragonabile a quello umano. Vengono analizzati i rischi associati alle superintelligenze, come la mancanza di etica e la gestione delle reward function, evidenziando la necessità di sviluppare un'etica robusta e policy adeguate per prevenire scenari catastrofici.