Cause giudiziarie e inchieste giornalistiche hanno rivelato che questa è una pratica ormai diffusissima. Anche perché le AI non possono più essere addestrate con contenuti presenti su internet, perché troppi contenuti presenti su internet sono ormai fatti con l'AI.
Vi siete mai chiesti perché l’AI sa rispondere correttamente (quasi sempre, almeno) a tutto? Per nutrire i modelli di intelligenza artificiale c’è bisogno di accumulare, scannerizzare e digitalizzare più nozioni possibili. Dopo aver setacciato e ingurgitato la totalità dei contenuti disponibili su internet (senza riconoscere alcun tipo di compenso a coloro che quei contenuti li hanno prodotti, si capisce), articoli di giornale, post sui blog, discussioni sui forum e saggi scientifici, le fonti umane si sono esaurite. Le aziende hanno quindi iniziato ad acquistare l’unica riserva di nozioni non contaminata dall’AI e certamente opera di esseri umani: i vecchi libri. Migliaia di libri sono stati acquistati in ordini enormi, spediti, ricevuti, sventrati – la costa viene tagliata con appositi macchinari, in modo che le pagine siano facilmente e velocemente scannerizzate – “assorbiti” dalle AI e infine gettati nella spazzatura.
Questo addestramento delle AI va avanti già da un pezzo ma solo recentemente la cosa è diventata di pubblico dominio. Il merito è di un’inchiesta condotta dal giornalista Emanuel Maiberg per 404 Media, inchiesta iniziata con la segnalazione di un libraio che gli segnalava di aver ricevuto uno strano ordine: 1000 libri acquistati tutti in una volta, senza alcun apparente criterio tematico, sulla piattaforma Biblio. Il libraio, su richiesta di Maiberg, ha infilato in uno dei pacchi contenenti i libri anche un AirTag, dispositivo che ha permesso di seguire il percorso della spedizione fino a un deposito a Las Vegas, dove i libri facevano la fine che avete letto prima. In realtà, però, che le aziende AI stessero usando questo metodo era un fatto già noto prima dell’inchiesta di 404 Media. È del febbraio di quest’anno, infatti, la notizia di una serie di cause giudiziarie intentate con Anthropic, dalle quali era emerso che l’azienda avesse iniziato a comprare, scannerizzare e distruggere vecchi libri per evitare future cause per violazione del diritto d’autore (si torna al discorso precedente: le AI sono state addestrate con materiale preso su internet, senza nemmeno ringraziare chi quei materiali li ha prodotti. Si era scoperto il nome di questo “progetto” di Anthropic: Project Panama.
Ma perché proprio i libri vecchi o antichi? Perché per evitare il cosiddetto model collapse, cioè l’evento in cui le intelligenze artificiali vengono addestrate da altre intelligenze artificiali, bisogna assicurarsi che l’addestramento delle macchine sia svolto da esseri umani con contenuti realizzati da esseri umani. Su internet, ormai, il rischio di incappare in un testo o in un’immagine generata, in tutto o in parte, con l’AI è ormai altissimo, quasi una certezza. Quindi, che fare? Avete indovinato: usare libri scritti prima della diffusione dell’AI generativa. È l’unico modo, questo, di evitare che le future intelligenze artificiali producano risultati sempre meno dettagliati e più scadenti.
Ora, lungi da noi prendere le difese della aziende AI, ma una precisazione va fatta: quando si parla di libri vecchi o antichi non si intende necessariamente preziosi, cioè pezzi d’antiquariato, volumi che hanno un valore culturale, sociale, storico. Spesso i libri usati in questi addestramenti sono manuali di istruzioni di prodotti obsoleti, saggi di nicchia o opere autopubblicate. Libri che attualmente non hanno valore economico né affettivo (se non per gli stessi autori) e che non hanno dei lettori. Questo, ovviamente, non toglie il fatto che un’azienda privata che acquista libri con il solo e unico scopo di estrarne le informazioni per costruire prodotti che venderà al pubblico, per poi mandare quei libri al macero, pone questioni etiche piuttosto serie e gravi. Anche perché prima o poi, così come sono finiti i contenuti utili pubblicati su internet, un giorno finiranno anche i manuali di istruzioni di prodotti obsoleti, i saggi di nicchia e le opere autopubblicate di cui, sostanzialmente, non importa a nessuno. Ma l’AI bisognerà continuare ad addestrarle. Usando cosa? Quali altri libri saremo allora disposta a buttare in pasto alle macchine? E quando le macchina avranno divorato tutti i libri, con cosa le addestreremo?
Si chiama Small Press Tycoon, tutte le cose che si dicono e si vedono nel gioco fanno molto ridere perché, chi lavora nell'editoria indipendente può confermare, sono molto vere.
