Ogni settimana ChatGPT parla con oltre un milione di utenti che minacciano di suicidarsi

Lo ha rivelato la stessa OpenAI in una ricerca: dei suoi 800 milioni di utenti, un milione (purtroppo) usa il chatbot in questo modo.

Purtroppo, sempre più persone decidono di rivolgersi a ChatGPT o a una delle ormai tantissime intelligenze artificiali invece che a un vero psicoterapeuta. Il fenomeno è ormai così diffuso e noto che OpenAI ha deciso di condurre una ricerca tra i suoi utenti per capire esattamente quanti di loro fanno questo uso di ChatGPT e quanto spesso.

I risultati della ricerca, basata sugli stessi output dell’AI, sono allarmanti: di tutti gli utenti che interagiscono ogni settimana con ChatGPT, lo 0,15 per cento ha espresso esplicitamente pensieri autolesionisti o inclinazioni suicide. ChatGPT è anche in grado di individuare nelle domande che gli vengono poste e nel linguaggio utilizzato nelle stesse i segnali di gravi crolli psicologici o imminenti crisi psicotiche. Lo 0,7 per cento degli utenti è interessato da questi gravi disturbi non diagnosticati o comunque non monitorati da professionisti, disturbi di cui, secondo la ricerca, avrebbero parlato solo con il chatbot di OpenAI. Sembrano numeri da poco, quasi irrilevanze statistiche, almeno finché non si considera che attualmente gli utenti che interagiscono con ChatGPT ogni mese sono oltre 800 milioni. Secondo le stime più accurate, dunque, sono oltre un milione le persone con tendenze autolesionistiche e/o pensieri suicidari con cui ChatGPT interagisce ogni settimana. 

Quello delle patologie mentali dei suoi utenti è un problema serio per OpenAI anche dal punto di vista reputazionale e legale. L’azienda sta affrontando la sua prima causa in tribunale proprio perché ChatGPT avrebbe istigato al suicidio un 16enne che avrebbe avuto invece bisogno dell’assistenza di un medico. Anche quando le risposte di ChatGPT non sono fuorvianti o pericolose, gli esperti parlano di un «effetto illusione» che rende la conversazione con l’AI così realistica da cagionare bruschi contraccolpi quando gli utenti si ricordano di star parlando con una macchina. Per questo motivo OpenAI ha assunto una squadra di esperti di salute mentale: psicologici, psichiatri e altre professionisti del settore che hanno il compito di addestrare l’AI a dare le risposte più efficaci agli utenti in difficoltà, avendo come priorità quella di convincerli a chiedere aiuto a un medico nel mondo reale.