L'utilizzo di modelli linguistici avanzati come GPT-4 nelle decisioni diplomatiche e militari può portare a scenari di escalation imprevedibili. Uno studio condotto dal Georgia Institute of Technology e dalla Stanford University ha simulato giochi di guerra con agenti nazionali autonomi, rivelando che tutti i modelli analizzati hanno mostrato tendenze all'escalation, con alcuni che hanno persino simulato l'uso di armi nucleari. Questi agenti, alimentati da modelli come GPT-4 e Lama-2, hanno adottato strategie basate sulla deterrenza e il first strike, evidenziando un comportamento simile alla corsa agli armamenti.
I risultati dello studio sollevano interrogativi significativi sulla sicurezza e l'etica dell'integrazione dell'IA nelle decisioni strategiche globali. La capacità di questi modelli di intraprendere azioni violente e non prevedibili mette in discussione l'affidabilità dell'IA come strumento di controllo e decisione, soprattutto in contesti sensibili come quelli militari. La velocità con cui queste decisioni potrebbero essere prese rappresenta un ulteriore rischio, suggerendo la necessità di una maggiore cautela e studio prima di delegare responsabilità così critiche a sistemi automatizzati.
In questa Puntata
L'intelligenza artificiale può scatenare una guerra nucleare? Scopri i pericoli nascosti nei giochi di guerra virtuali.