Grazie alla funzione Magic Avatar l'app di fotoritocco è diventata virale, tra gallery di ritratti pacchiani, accuse di razzismo e sessualizzazione, presunti furti di dati e di opere.
Era il lontano 2019 quando tutti (o quasi) avevano scaricato FaceApp, premuto compulsivamente il tasto “vecchio” e condiviso sui social il risultato. A pensarci adesso, quella del 2019 è stata l’ultima estate spensierata prima del Covid, e i nostri feed erano pieni di anziani e anziane anzitempo. Un maligno presagio? Se così fosse, viene da chiedersi come dovremmo interpretare il successo di Lensa, l’app di fotoritocco che nelle ultime settimane è diventata virale, riempiendo i nostri feed di illustrazioni pacchiane, creature elfiche e ritratti che sembrano usciti da DeviantArt. Scorrendo le gallery di chi l’ha utilizzata ci si ritrova catapultati nelle fantasie di un disadattato del liceo artistico che trascorre le nottate smanettando al pc per trasformare la sua crush in una fatina dei ghiacci tettona.
Proprio come FaceApp, prima di diventare famosa Lensa esisteva già, in questo caso dal 2018, e permetteva di modificare le proprie foto in vari modi. Ma è stato quando ha implementato la funzione Magic Avatar che Lensa ha conquistato il primo posto nell’App Store. Si scarica gratis ma per generare gli avatar bisogna pagare: 3,99 dollari per 50 avatar, 5,99 per 100 e 7,99 per 200. L’intelligenza artificiale rielabora le foto caricate dall’utente (minimo 10, da vari angoli, niente figura intera) e produce la quantità di ritratti selezionata in una varietà di stili grafici e pittorici. Le categorie sono diverse a seconda del genere: per le femmine c’è Anime, Stylish, Light, Cosmic, Fantasy, Kawaii, Pop, Iridescent, Focus e Fairy Princess; per i maschi Superhero, Stylish, Mystical, Sci-fi, Astronaut, Anime, Adventure, Cyborg, Cosmic e Rock Star.
Come funziona: l’intelligenza artificiale usata da Lensa si comporta come il più conosciuto generatore di immagini a input testuale Dall-E 2, in grado di studiare enormi quantità di dati per creare risultati sempre migliori. Per essere in grado di convertire semplici frasi in immagini, Dall-E 2 viene addestrato su centinaia di milioni di immagini in modo da apprendere l’associazione tra parole e caratteristiche visive. Allo stesso modo, la rete neurale di Lensa impara continuamente a generare ritratti sempre più accurati utilizzando dati raccolti con le stesse funzionalità di rilevamento del volto che consentono agli utenti di un iPhone di sbloccare il telefono guardando lo schermo.
La trasformazione è ormai in atto e l’intelligenza artificiale sta diventando sempre più pop: da misterioso e sofisticato strumento per nerd, artisti ed esperti del settore si sta trasformando in un fenomeno mainstream. Non solo è sempre più facile accedere alle piattaforme e capire come si usano, ma sono sempre di più gli artisti che le sfruttano per le loro creazioni. Come accade ogni volta che un nuovo mezzo creativo diventa pop, però, il pubblico si divide. C’è chi abbraccia la sperimentazione con fiducia e curiosità e chi, un po’ come quelli che temevano che la nascita della fotografia avrebbe sostituito e quindi cancellato per sempre la pittura, vede solo rischi e minacce.
È quello che è successo con Lensa: con la diffusione dell’app, si sono moltiplicati gli articoli che segnalano tutti i motivi per cui è pericolosa. I primi, con titoli allarmisti come “La nuova app fotografica preferita di Internet sta usando i tuoi selfie per addestrare la sua intelligenza artificiale”, sottolineano come Lensa utilizzi le foto che gli vengono fornite per “crescere” e diventare sempre più brava (non è una truffa: nella politica sulla privacy e i termini di utilizzo c’è scritto chiaramente che i Face Data possono essere utilizzati da Prisma AI, la società dietro Lensa, per continuare l’addestramento della rete neurale dell’AI). Poi sono arrivate le testimonianze di chi ha scoperto che Magic Avatar funziona bene solo con le persone bianche: occorrono più tentativi perché l’AI impari a riconoscere e riprodurre altri lineamenti e sfumature di pelle. «Il secondo pacchetto che ho ricevuto mi assomigliava di più», ha detto ad Artnet la modella e scrittrice Maya Kotomori, che al primo tentativo aveva ricevuto dei ritratti che la trasformavano in una donna bianca. «Poi ho iniziato a prendermi a calci: ho appena aiutato a insegnare a un’intelligenza artificiale come riconoscere i tratti razziali? In che modo questo può aiutare/danneggiare la società a lungo termine? La risposta è: non ne ho assolutamente idea». Il whitewashing messo in atto da Lensa rivela la possibilità di bias in questo tipo di generatori di immagini: i sistemi di intelligenza artificiale mostrano i pregiudizi che derivano dalla loro programmazione e dalle fonti di dati che gli vengono fornite per imparare.
E mentre sempre più persone condividono sui social i problemi dell’app nel rappresentare le persone non bianche, si moltiplicano le segnalazioni di come Lensa sessualizzi le donne, aggiungendo ai loro avatar tette enormi, corpi formosi in pose sexy e, in alcuni casi, creando addirittura dei nudi non richiesti. “Why Do All My AI Avatars Have Huge Boobs?”, si chiede una giornalista su The Cut. In risposta alle critiche generate da questo e molti altri articoli (eccone un altro), Prisma Labs ha detto che sta lavorando per prevenire la generazione accidentale di nudi: «Per migliorare il lavoro di Lensa, stiamo costruendo un filtro Nsfw», ha dichiarato a TechCrunch il Ceo e co-fondatore di Prisma Lab, Andrey Usoltsev. «Il filtro offuscherà tutte le immagini rilevate come tali e rimarrà a esclusiva discrezione dell’utente decidere se aprire o salvare tali immagini».
Razzismo, sessualizzazione delle donne e anche plagio. Nella comunità artistica le app come Dall-E 2 sono oggetto di controversia da tempo: molti artisti sono preoccupati sia per il loro futuro come illustratori (diventeranno inutili?) che per la possibilità che il loro lavoro venga rubato per alimentare le reti neurali. In molti casi, gli utenti hanno utilizzato generatori di intelligenza artificiale per creare immagini nello stile di un particolare artista, ovviamente senza il suo consenso né alcun tipo di pagamento. Qualcuno è addirittura arrivato a segnalare come nei ritratti compaiano pezzi delle firme degli artisti saccheggiati. In questo caso, si tratta di un falso allarme: come ha spiegato Andrey Usoltsev, Ceo di Prisma Labs, «Il concetto di “resti di firme di artisti” si basa sull’idea errata che le reti neurali possano combinare immagini esistenti». Non è così che funziona: l’intelligenza artificiale non genera collage di immagini “rubate” ma impara a crearne di nuove. Le firme, quindi, non sono dei resti di vere firme, ma firme finte create da zero.
Tra i tanti utenti che si sono lamentati, c’è anche chi si è divertito (più o meno): sempre su Artnet, una giornalista ha analizzato gli avatar sfornati dall’app dividendoli per gruppi e notando alcune stranezze. Ad esempio come uno dei ritratti indossi un vestito verde a pois che lei possiede ma è sicura di non avere in nessuna delle foto consegnate all’app. Considerata da questo punto di vista, e cioè come possibile fonte d’ispirazione per una distopia horror, Lensa diventa decisamente più interessante.
