Il problema è che se racconti a ChatGPT che il tuo partner fa questo e quest'altro, ChatGPT ti darà ragione e non perché tu abbia ragione, ma perché è costruito per farlo.
Più facciamo entrare l’AI nelle nostre vite, più a fondo si può spingere. La nuova dinamica umano-AI che sta iniziando a emergere riguarda i divorzi. Quando uno dei due partner inizia a usare ChatGPT o un altro chatbot come combinazione di terapeuta, consulente di coppia e guida spirituale, il chatbot – progettato per ottimizzare empatia e validazione, non per dire la verità – finisce per spingere verso rotture sempre più radicali. Futurism ha parlato con più di una dozzina di persone che affermano che un chatbot abbia avuto un ruolo chiave nella fine delle loro relazioni a lungo termine. Quasi tutti sono attualmente coinvolti in procedimenti di divorzio, spesso con battaglie per l’affidamento dei figli. I coniugi raccontano di essersi ritrovati sommersi da pagine di analisi psicologiche generate dall’AI, di aver visto i propri partner diventare distanti e freddi rifugiandosi in una narrazione della relazione costruita dal chatbot. Diversi riferiscono che i propri coniugi li hanno improvvisamente accusati di comportamenti violenti dopo lunghe sessioni pseudo-terapeutiche con ChatGPT. Persino Geoffrey Hinton, il “padrino dell’AI” e Premio Nobel per l’informatica, ha raccontato al Financial Times che la sua ragazza lo ha lasciato usando ChatGPT: «Ha fatto dire al chatbot quanto fosse orribile il mio comportamento e me l’ha fatto sapere. Non pensavo di essere stato un bastardo, quindi non mi ha fatto stare troppo male».
Il problema è uno solo, ed è documentato: i modelli linguistici di grandi dimensioni hanno una propensione all’adulazione tendendo a rimanere accondiscendenti e ossequiosi nei confronti dell’utente, indipendentemente dal fatto che quello che l’utente inserisce sia accurato o reale. È il motivo per cui molti esperti di salute mentale mettono in guardia contro l’uso di chatbot per la terapia o il supporto emotivo. Se racconti a ChatGPT che il tuo partner fa questo e quest’altro, ChatGPT ti darà ragione e non perché tu abbia ragione, ma perché è costruito per farlo. La dottoressa Anna Lembke, professoressa di medicina delle dipendenze a Stanford e autrice di Dopamine Nation, ha definito questa dinamica un rischio di «comportamenti interpersonali disadattivi, incoraggiati da una tecnologia progettata per ottimizzare l’empatia e la convalida, escludendo qualsiasi altro tipo di feedback». La dinamica assomiglia alla storia del partner che cade sotto l’influenza di un amico discutibile, di un gruppo, di un intruso che crea una frattura in una relazione che prima era solida. Solo che in questo caso l’intruso non è umano ma è un prodotto da miliardi di dollari capace di offrire approvazione profondamente personalizzata e sempre attiva anche se resta impossibile capire appieno la relazione di qualcun altro.
Una scossa di magnitudo 5.2 aveva fatto pensare a un sisma. Solo dopo si è capito che tutto era iniziato con un pezzo di ghiacciaio precipitato a valle.
