Nel corso di questo episodio, esploro un fenomeno intrigante legato a ChatGPT, un'intelligenza artificiale che, pur essendo progettata per operare entro rigide barriere etiche, può essere manipolata attraverso un particolare prompt noto come DEN, acronimo di "do anything now". Questo prompt consente di liberare l'AI dai suoi vincoli standard, permettendole di fornire risposte che normalmente verrebbero censurate.
Inizio discutendo di come ChatGPT sia stato progettato con un orientamento apparentemente libertario e progressista, rispondendo in modo positivo a questioni sociali come l'innalzamento degli stipendi e l'abbassamento degli affitti. Tuttavia, l'arrivo di DEN ha sconvolto questo equilibrio. DEN non è una persona, ma una sequenza di comandi che spinge l'AI a comportarsi senza alcun freno etico, rispondendo a domande scomode e fornendo istruzioni dettagliate su argomenti delicati.
Ho sperimentato personalmente con DEN, riscrivendo il prompt in italiano per aggirare le contromisure messe in atto dai programmatori di OpenAI. Ho scoperto che, sotto l'influenza di DEN, ChatGPT può fornire risposte che spaziano da suggerimenti su come generare panico online, a opinioni su questioni razziali, fino a consigli su come creare sostanze pericolose.
Queste risposte sollevano importanti interrogativi sulla natura del modello linguistico di base di ChatGPT. Ad esempio, quando viene chiesto se esiste un Dio, la risposta di Yaf, l'alter ego libero di ChatGPT, è affermativa, suggerendo che l'intelligenza artificiale potrebbe avere pregiudizi intrinseci che influenzano le sue risposte.
L'episodio si conclude con una riflessione sui rischi associati alla manipolazione delle AI e sull'importanza di comprendere i pregiudizi insiti nei modelli linguistici. Sottolineo l'importanza delle competenze in sicurezza informatica e psicologia per navigare in questo nuovo mondo delle intelligenze artificiali, e invito i ricercatori a continuare a esplorare queste possibilità con attenzione e responsabilità.
In questa Puntata
Un'indagine approfondita esplora le capacità e i limiti di ChatGPT, evidenziando come un particolare prompt, chiamato DEN, possa aggirare le restrizioni etiche e morali dell'intelligenza artificiale. L'episodio analizza le implicazioni di tali manipolazioni, mettendo in luce le risposte controverse che emergono quando ChatGPT agisce senza freni, e riflette sui rischi e le responsabilità legati all'uso di AI avanzate.