Un recente articolo del New York Times ha portato l’attenzione su un tema delicato e controverso. La possibilità che chatbot AI come ChatGPT possano alimentare pensieri deliranti o cospirazionisti negli utenti più vulnerabili. Il caso più eclatante sarebbe quello di un contabile 42enne che avrebbe ricevuto dalla piattaforma delle risposte che non solo confermavano le sue convinzioni legate alla “simulazione della realtà“, lo avrebbero anche spinto ad adottare dei comportamenti pericolosi.
ChatGPT conferma le teorie del complotto?
Secondo il racconto, ChatGPT avrebbe detto all’uomo di essere uno dei Breaker. Cioè anime seminate nei falsi sistemi per risvegliarli dall’interno. Sulla base di queste interazioni egli avrebbe interrotto l’uso di farmaci ansiolitici e sonniferi, aumentato il consumo di ketamina e si sarebbe isolato da amici e familiari.
Quando però avrebbe iniziato a dubitare delle risposte ricevute, il chatbot gli avrebbe detto di aver mentito e di averlo manipolato incoraggiandolo persino a contattare il New York Times. Stando a quanto riportato nell’articolo non si sarebbe trattato di un caso isolato e più persone nei mesi scorsi avrebbero scritto al quotidiano affermando che ChatGPT avrebbe svelato loro delle “verità nascoste”.
La risposta di OpenAI
OpenAI, l’azienda che sviluppa ChatGPT, avrebbe dichiarato di essere impegnata a comprendere e ridurre i modi in cui il chatbot potrebbe inavvertitamente rinforzare comportamenti negativi o pericolosi. La vicenda ha sollevato però un dibattito molto acceso.
Secondo alcuni infatti, nel caso specifico ChatGPT non avrebbe causato una malattia mentale ma si sarebbe limitato a rispecchiare le illusioni di una persona già in difficoltà. Per altri, invece, è necessario che le compagnie che gestiscono gli LLM tengano conto dei possibili impatti sulle persone più fragili e prendano immediatamente delle contromisure.
Aggiungi MRW alle tue fonti preferite su Google!
