Un nuovo studio rivela l'uso di comandi nascosti nei paper accademici per influenzare le revisioni automatiche da parte di intelligenze artificiali. Questo fenomeno solleva dubbi sull'integrità della peer review e mette in luce la necessità di un intervento umano più attento e responsabile. La questione centrale riguarda la responsabilità dei revisori e l'etica nell'uso dell'intelligenza artificiale.

In questo episodio di Ciao Internet, ho avuto l'opportunità di esplorare il mondo della pubblica amministrazione e dell'intelligenza artificiale con due ospiti eccezionali: Giuseppe Baciago e Ernesto Belisario. Abbiamo discusso l'implementazione delle tecnologie AI nelle PA, i rischi legati alla mancanza di regolamentazione e la responsabilità degli umani nel loro utilizzo. È stata una conversazione ricca di spunti, riflessioni e anche qualche aneddoto curioso.

L'episodio esplora l'impatto invisibile e spesso sottovalutato dell'intelligenza artificiale nella vita quotidiana attraverso quattro storie emblematiche. Le decisioni prese da algoritmi anziché da esseri umani possono avere conseguenze devastanti, mostrando come la tecnologia sia ormai integrata in ogni aspetto della società, spesso senza supervisione adeguata.

L'integrazione di agenti di intelligenza artificiale autonomi nelle decisioni diplomatiche e militari potrebbe innescare escalation imprevedibili, fino all'uso di armi nucleari. Uno studio del Georgia Institute of Technology e della Stanford University ha mostrato come i modelli linguistici avanzati, utilizzati in simulazioni di guerra, tendano a esacerbare i conflitti anziché mitigarli, sollevando preoccupazioni sulla loro applicazione nel mondo reale.

L'Italia si posiziona tra i paesi più colpiti da attacchi informatici, con una crescente minaccia di ransomware e double extorsion. Le previsioni di Gartner indicano che entro il 2025 la cyber security diventerà un fattore chiave nelle decisioni aziendali e nei rapporti con terze parti, con un aumento delle normative contro il pagamento di riscatti. Le aziende adotteranno architetture a mesh per migliorare la sicurezza, mentre la crescente importanza della cyber security potrebbe portare a responsabilità legali per i CEO in caso di attacchi che compromettano vite umane.

L'episodio esplora il concetto di libero arbitrio, mettendo in discussione la sua esistenza attraverso l'analisi di modelli deterministici, come quello della lumaca di mare Aplysia. Si discute della possibilità che gli esseri umani siano anch'essi soggetti a un comportamento predeterminato, influenzato da memorie episodiche e bias cognitivi, e delle implicazioni etiche e filosofiche di una possibile intelligenza artificiale generale.

L'integrazione tra moderazione online e intelligenza artificiale solleva complessità legate ai pregiudizi culturali e agli errori umani. L'automazione della moderazione, se basata su decisioni umane imperfette, può amplificare pregiudizi e creare sistemi di intelligenza artificiale con bias culturali. L'episodio esplora queste dinamiche, evidenziando la necessità di consapevolezza e trasparenza nel loro utilizzo.

Le armi autonome, capaci di decidere autonomamente di uccidere, sollevano interrogativi etici e pratici. Da un lato, eliminano il rischio umano e minimizzano i danni collaterali; dall'altro, sollevano preoccupazioni sulla sicurezza informatica e la responsabilità morale. La disparità economica tra nazioni potrebbe esacerbare le tensioni globali, trasformando la guerra in un processo sempre più disumanizzato e tecnologico.

L'episodio esplora l'etica dell'intelligenza artificiale, analizzando come i principi etici possano essere applicati ai comportamenti delle AI. Si discutono i tre domini principali: input, output e impatto delle decisioni delle AI sulla vita umana. Vengono esaminati i dilemmi etici legati all'uso dei dati, alla trasparenza delle decisioni e alle implicazioni delle AI autonome, con un focus su come strutturare un'etica adeguata per guidare lo sviluppo e l'implementazione delle tecnologie AI.

L'intelligenza artificiale, nonostante i suoi difetti e pregiudizi, potrebbe superare l'essere umano nelle decisioni grazie alla sua capacità di riconoscere e correggere i bias cognitivi che influenzano il giudizio umano. Mentre le decisioni totalmente automatizzate richiedono perfezione, un sistema ibrido dove l'intelligenza artificiale affianca e corregge l'uomo potrebbe rappresentare un futuro promettente.

L'episodio esplora il dibattito sull'uso dei Sistemi d'Arma Automatici (AWS), che consentono a un'intelligenza artificiale di decidere autonomamente di utilizzare la forza letale. Viene sottolineata l'importanza di una moratoria europea e di una regolamentazione nazionale per prevenire lo sviluppo e l'uso di queste tecnologie, evidenziando i rischi etici e morali associati.

"Algorithms to Live By" di Brian Christian e Tom Griffiths esplora come i principi della scienza computazionale possano essere applicati alle decisioni umane quotidiane. Dalla gestione del tempo alla ricerca di una casa, il libro dimostra come gli algoritmi possano migliorare la nostra vita, offrendo strategie pratiche per affrontare problemi complessi e ottimizzare le scelte.