E ha pure creato una task force di polizia esclusivamente dedicata alla caccia di questi contenuti e alla denuncia delle persone che li creano e diffondono.
Tutti abbiamo visto quel video che mostra un villaggio nepalese sommerso dall’acqua del fiume Lende Khola, l’onda di fango, la devastazione, le squadre di ricerca all’opera. Queste immagini, in foto e in video, sono diventate uno dei simboli della catastrofe che ha colpito il Nepal e il Tibet, dei danni immani causati dallo scioglimento di un ghiacciaio. Per giorni abbiamo visto scorrere queste immagini sugli schermi dei nostri telefoni, riempire i nostri feed, occupare le homepage di tutti i siti del mondo. Queste immagini non sono vere, quel villaggio non c’è mai stato, almeno fino a quando qualcuno, da qualche parte, per qualche ragione non ha deciso di immettere nell’interfaccia di una AI generativa un prompt. Per cercare di arginare il problema, il governo nepalese ha chiesto a Meta e TikTok di rimuovere i video generati con l’intelligenza artificiale. L’unico problema è che le piattaforme ci mettono in media dalle 24 alle 48 ore per eliminare un video falso. Per questo, il direttore dell’Autorità nepalese per le telecomunicazioni ha chiesto una speciale deroga. Allo stesso tempo, una task force è al lavoro sul riconoscimento ed eventuale segnalazione di questi video mentre, come scrive The Straits Times, la polizia nepalese è a caccia dei responsabili.
BBC Verify, unità di BBC che si occupa proprio di fact checking, ha scelto proprio questo video, tra quelli (tantissimi) che circolavano sui social nei giorni dell’inondazione al confine tra Nepal e Tibet, per provare a spiegare ai suoi lettori come fare a riconoscere un video generato con l’intelligenza artificiale. Il primo indizio è la durata: molti generatori di video AI producono sequenze che durano in media una decina di secondi, quindi i video più lunghi vanno assemblati mettendo assieme più video, fatto che si traduce in transizioni brusche, cambi di scena repentini, finali affrettati. Un video corto non è per forza falso, ma un filmato “spettacolare” che si interrompe bruscamente proprio quando l’azione si complica dovrebbe mettere sull’allerta e far dubitare della sua veridicità. Il secondo indizio è la continuità: nel video dell’inondazione in Nepal, edifici e alberi si materializzano tra un fotogramma all’altro, i veicoli svaniscono man mano che la ripresa avanza. Seppur un’inondazione sia una delle più brutali manifestazioni del caos in cui ci si possa imbattere, tutte queste cose sono semplicemente impossibili: la realtà non si manifesta e smaterializza da un secondo all’altro. Il terzo indizio è la fisica: nei video generati dall’AI spesso si vedono moto stranamente grandi che restano in piedi mentre vengono trascinate via, rocce e detriti che si muovono in modo incoerente rispetto alla direzione e alla forza dell’acqua. L’acqua turbolenta è un vantaggio per chi genera, perché è già “caotica” di suo, ma anche una corrente caotica deve interagire in modo plausibile con quello che tocca. Vedendo il video a velocità normale questi dettagli di solito sfuggono, e infatti conviene sempre mettere in pausa e scorrere il filmato fotogramma per fotogramma.
Quando i primi video AI sono iniziati a circolare su internet, riconoscerli non era così difficile, basti pensare all’ormai famosissimo video di Will Smith che mangia un piatto di spaghetti: mani distorte, volti sfigurati e corpi deformi erano campanelli d’allarme immediati. Errori da quali le AI hanno però imparato in fretta: lo stesso video di Will Smith che mangia gli spaghetti è stato generato più e più volte usando modelli di AI più recenti, e la differenza è oggettivamente stupefacente. Per scovare un video generato con l’AI ora lo sguardo deve soffermarsi sullo sfondo, dove architettura, vegetazione e piccoli dettagli compaiono, spariscono, appaiono in maniera “innaturale”. Anche le filigrane e i metadati aiutano fino a un certo punto, perché la loro assenza non dimostra niente e le piattaforme li rimuovono in fase di caricamento e compressione.
Si chiama Small Press Tycoon, tutte le cose che si dicono e si vedono nel gioco fanno molto ridere perché, chi lavora nell'editoria indipendente può confermare, sono molto vere.
