Fondata alla fine del 2018, Sensity è la prima società di intelligence al mondo che si occupa di deepfake. «La nostra missione», si legge sul sito, «è difendere individui e organizzazioni dalle minacce poste dai deepfake e da altre forme di media visivi dannosi». Recentemente, un’indagine condotta dal team di Sensity ha portato alla luce un traffico di foto di donne nude create da un’intelligenza artificiale. Secondo il rapporto pubblicato il 20 ottobre dalla società, l’IA in questione sarebbe in grado di “rimuovere” i vestiti dalle foto, simulando oltre 100.000 immagini di donne e ragazze nude (molte delle quali evidentemente minorenni) che sono state condivise online tra il 2019 e il 2020. La tecnologia alla base di questo bot è simile a quella di un programma prodotto nel 2019 chiamato DeepNude. Il servizio AI consente alle persone di caricare la foto di una donna e ottenere l’aspetto che avrebbe senza vestiti. DeepNude è stato immediatamente rimosso da Internet, ma l’indagine ha rilevato che questo nuovo bot si basa sullo stesso tipo di tecnologia.
Giorgio Patrini, amministratore delegato di Sensity, ha affermato che l’utilizzo di questo programma mette a rischio chiunque abbia un account sui social media. L’amministratore del bot ha detto alla Bbc che il servizio «non danneggia nessuno» ed è puramente a scopo di intrattenimento. «Nessuno ricatterà nessuno perché la qualità non è realistica», ha aggiunto. Resta il fatto che migliaia di foto di donne e ragazzine nude sono state diffuse online, senza che le proprietarie dei volti siano consapevoli. Sensity ha scoperto che la rete di bot ha oltre 100.000 membri, per lo più con sede in Russia o nell’Europa orientale, e il 70% delle immagini caricate erano foto di conoscenti.
Cause giudiziarie e inchieste giornalistiche hanno rivelato che questa è una pratica ormai diffusissima. Anche perché le AI non possono più essere addestrate con contenuti presenti su internet, perché troppi contenuti presenti su internet sono ormai fatti con l'AI.
