A quanto pare, la soluzione ai problemi posti dall’avanzamento delle intelligenze artificiali sono le intelligenze artificiali stesse. Almeno, questo è quanto ci sta suggerendo OpenAI (forse in leggero conflitto d’interessi): dopo aver costruito l’IA che probabilmente ruberà il lavoro agli scrittori di tutto il mondo – ChatGPT – la stessa azienda ha appena lanciato un’altra intelligenza artificiale la cui missione consiste nel riconoscere i testi scritti da altre intelligenze artificiali. L’ultimo arrivato in questa sempre crescente famiglia è stato battezzato OpenAI Text Classifier. E, come tutti gli esordienti, pare abbia bisogno di tempo prima di raggiungere l’autonomia e realizzare il suo pieno potenziale: sono stati gli stessi creatori dell’IA ad ammettere che al momento Text Classifier non è così affidabile. A quanto pare, identifica correttamente un testo generato da una IA sono nel 26 per cento dei casi e per ottenere il massimo dei risultati ha ancora bisogno dell’aiuto di altri software simili e complementari.
Parlando con TechCrunch, uno degli ingegneri che hanno lavorato al progetto ha detto che l’uso di Text Classifier è stato aperto al pubblico «in modo da ottenere un feedback che ci aiuti a capire se strumenti come questo possano essere utili. Speriamo, nel futuro, di condividere altri strumenti, anche migliori». Il funzionamento di Text Classifier è molto simile a quello della “nemesi” ChatGPT: per addestrare la IA a distinguere un testo scritto da un essere umano da uno generato da una macchina, a Text Classifier sono stati sottoposti tantissimi esempi di articoli scritti da 34 diverse IA (compresa ChatGPT) e altrettanti esempi di pezzi scritti da persone, per esempio, su Wikipedia e Reddit. Oltre alla – per il momento – bassa percentuale di successo, Text Classifier ha diversi altri limiti e mancanze, però. Per esempio: non è capace di analizzare un testo di meno di mille battute. Poi: non si accorge se un pezzo contiene plagio. E, sempre stando a quanto rivelato da OpenAI, incontra ancora grandissime difficoltà a comprendere testi scritti da bambini o in lingue diverse dall’inglese (la lingua nella quale sono scritti la maggior parte dei testi che hanno fatto parte del suo addestramento fin qui).
Forse, però, tutti i problemi e difetti di Text Classifier sono colpa delle persone che hanno curato il suo addestramento. Ancora una volta, è stata la stessa OpenAI a spiegarlo: le persone che hanno seguito il progetto non sono sicure che tutti i testi usati in fase di addestramento per spiegare all’IA come scrivono gli esseri umani fossero davvero scritti da esseri umani. Forse, in realtà, sono stati scritti da intelligenze artificiali e loro non sono riusciti a capirlo. Che è esattamente la ragione per la quale serve uno strumento come Text Classifier. Ma è anche la ragione per la quale uno strumento come Text Classifier forse ormai non si può più realizzare.
OnlyMarms (si chiama proprio così) è gratuito, pubblica «contenuti non censurati di marmotte dalle Montagne Rocciose» e accetta mance per la buona causa della scienza.
