Ciao a tutti, sono Matteo Flora, e in questa puntata di Ciao Internet vi parlo da Bruxelles, con il Parlamento Europeo alle spalle. Siamo in un periodo cruciale, poiché le campagne elettorali si intensificheranno nei prossimi mesi, e l'intelligenza artificiale giocherà un ruolo fondamentale. Nel migliore dei casi, queste tecnologie verranno impiegate per migliorare i programmi elettorali e le narrazioni dei partiti. Tuttavia, esiste una possibilità concreta che vengano utilizzate per diffondere fake news.
Le fake news rappresentano un problema serio perché le moderne intelligenze artificiali possono generare contenuti visivi e testuali quasi indistinguibili dalla realtà. Si parla molto di soluzioni come il labeling e il watermarking, ovvero l'inserimento di segnali nei contenuti digitali per identificarli come creati da intelligenze artificiali. Tuttavia, temo che queste soluzioni non saranno efficaci per vari motivi.
Uno dei pericoli sottovalutati è quello degli attacchi adversarial, che possono compromettere i sistemi di watermarking. Non solo è possibile rimuovere queste firme digitali, ma si potrebbe anche aggiungerle a contenuti reali, trasformandoli apparentemente in falsi generati da IA, con conseguenze disastrose in contesti sensibili, come nei conflitti armati.
Inoltre, c'è una distinzione importante tra la disinformazione organizzata da grandi entità e quella prodotta da individui con poche risorse. Mentre il watermarking potrebbe frenare quest'ultima, le grandi organizzazioni con risorse adeguate non ne saranno affatto ostacolate. Le tecnologie open source, sebbene preziose, possono essere modificate per aggirare le protezioni e generare contenuti senza restrizioni. Per esempio, anche se un sistema di generazione immagini è progettato per non creare immagini di nudo, versioni modificate possono farlo senza problemi.
Queste considerazioni mi portano a concludere che, sebbene il watermarking possa elevare la barriera d'ingresso per creare contenuti falsi, non risolverà il problema della disinformazione strutturata. Le risorse economiche delle grandi entità politiche e statali permetteranno loro di aggirare facilmente queste protezioni. Quindi, prevedo che il tema del watermarking tornerà spesso durante le elezioni, ma dobbiamo essere consapevoli dei suoi limiti.
Concludo questa riflessione sulla disinformazione e i suoi strumenti di contrasto, mentre mi preparo a tornare a Milano. Grazie per avermi seguito e a presto su Ciao Internet.
I contenuti dell'Episodio #1219
In questa puntata di Ciao Internet, vi porto con me a Bruxelles, davanti al Parlamento Europeo, per discutere di come l'intelligenza artificiale stia influenzando le campagne elettorali imminenti. Analizzo i potenziali usi benefici e i rischi di abuso, come la creazione di fake news, e discuto le soluzioni proposte, come il watermarking e il labeling, mettendo in luce i loro limiti. Rifletto anche sul ruolo delle grandi entità e delle tecnologie open source nella diffusione della disinformazione, evidenziando le sfide future.