OpenAI ha confermato che ChatGPT può segnalare conversazioni alle forze dell'ordine, sollevando preoccupazioni sulla privacy e sulla sorveglianza. La policy ufficiale prevede interventi solo in caso di minacce gravi, ma l'ambiguità e la mancanza di trasparenza suscitano dubbi sull'uso delle intelligenze artificiali come strumenti di sorveglianza. Il caso di Stein Eric Soelberg, che ha utilizzato ChatGPT prima di commettere un omicidio-suicidio, evidenzia i rischi di una validazione pericolosa da parte delle AI.