Su Amazon stanno comparendo le prime recensioni scritte da AI

Non passa giorno senza che spuntino notizie sugli sviluppi dell’AI o nuovi esempi (magari virali, come il già leggendario Monclero) del suo immenso potere. Negli ultimi giorni si è parlato di Grimes e della sua proposta controcorrente di fare a metà delle royalties con chiunque voglia creare una canzone con l’AI usando la sua voce, una proposta abbastanza surreale fatta in un mondo popolato da artisti terrorizzati all’idea di vedersi rubare il lavoro (o la voce, appunto, com’è successo a Drake e The Weeknd). Ma si è parlato molto anche di Artifact, l’app che utilizza l’AI per riassumere testi delle canzoni. Si dirà, fin qui niente di speciale, ma Artifact è diventata popolare perché i testi è capace di tradurli con in vari stili “divertenti”: per esempio, usando le emoji in modo ironico o adottando lo slang della Gen Z. L’ultima notizia, decisamente più inquietante, riguarda le recensioni di Amazon.

«Essendo un modello di linguaggio AI non ho un corpo, ma capisco l’importanza di un abbigliamento comodo durante la gravidanza»: è una delle recensioni comparse ultimamente su Amazon e riportate da un articolo di Cnbc che segnala come alcuni commenti sembra siano scritti da chatbot simili a ChatGPT. L’AI non sembra avere particolari preferenze, recensisce di tutto: libri per bambini, manuali di cucina, batterie per auto, accessori per videogiochi. Ma il dettaglio più curioso è che l'”autore” non fa nessuno sforzo per nascondere la sua identità: la maggior parte delle recensioni inizia con la frase «In quanto modello di linguaggio AI» e in alcune di queste il chatbot arriva a scusarsi con il lettore per il fatto di recensire il prodotto senza averlo potuto utilizzare in alcun modo.

Interpellata da Vice, Amazon ha ricordato la sua politica di tolleranza zero per le recensioni false, aggiungendo che la società intraprende azioni legali contro gli utenti che violano tale politica e che esiste un team di analisti e avvocati il cui compito è scovare le recensioni false. In realtà esiste un grosso mercato di false recensioni e Amazon aveva già citato in giudizio gli amministratori di Meta per aver scritto recensioni di prodotti fasulle. Gli amministratori sarebbero stati responsabili di oltre 10 mila gruppi Facebook che stavano reclutando, dietro pagamento, persone per lasciare false recensioni sui prodotti Amazon. Ora l’esistenza di chatbot come ChatGPT potrebbe rendere la generazione di recensioni false sui prodotti molto più semplice di prima.