L'episodio esplora l'uso dell'intelligenza artificiale nelle campagne di disinformazione online, partendo da un esempio concreto di un account Twitter, HisVault.th, che promuoveva messaggi pro-Trump utilizzando un chatbot basato su OpenAI. Questo caso evidenzia come strumenti avanzati possano essere sfruttati per influenzare l'opinione pubblica, sollevando questioni riguardo alla responsabilità di aziende come OpenAI.
Ho analizzato vari scenari di manipolazione, tra cui operazioni internazionali che coinvolgono attori da Cina, Russia, Iran e altre nazioni. Queste operazioni utilizzano l'IA per creare contenuti falsi, tradurre articoli e orchestrare campagne mirate su piattaforme come Telegram e 9gag. Un esempio è l'operazione "Bad Grammar", che mirava a destabilizzare regioni specifiche come l'Ucraina e i Paesi Baltici.
La discussione si estende all'efficacia degli LLM (Large Language Models) nel customer care e nella persuasione politica. Durante le elezioni europee, alcuni partiti hanno impiegato questi modelli per supportare i volontari nella comunicazione politica, dimostrando la versatilità e il potenziale persuasivo di tali tecnologie.
Il concetto di iperpersuasione, come descritto nel paper di Luciano Floridi, diventa centrale nella nostra analisi. La capacità delle macchine di creare contenuti altamente personalizzati e persuasivi rappresenta una minaccia emergente. La responsabilità di OpenAI e di altre piattaforme tecnologiche è cruciale, ma la proliferazione di LLM open source complica ulteriormente il panorama, poiché consente a chiunque di scaricare e utilizzare questi strumenti in modo indipendente.
Infine, rifletto sull'importanza di stabilire accountability per l'uso delle tecnologie IA e invito il pubblico a partecipare alla discussione, sottolineando la necessità di un approccio responsabile e informato nell'affrontare queste sfide.
In questa Puntata
L'intelligenza artificiale è al centro di strategie di manipolazione dell'opinione pubblica, come dimostrato da recenti scoperte su account automatizzati che promuovono messaggi politici su piattaforme social. L'uso improprio di strumenti come OpenAI da parte di attori internazionali solleva preoccupazioni sulla responsabilità e l'accountability delle aziende tecnologiche. L'iperpersuasione delle macchine rappresenta una sfida crescente per la società.