Questi video ormai sono troppi e troppo credibili per non trarre in inganno anche chi si occupa di fact checking.
Tutti abbiamo tutti visto quel video che mostra un villaggio nepalese sommerso dall’acqua del fiume Lende Khola, l’onda di fango, la devastazione, le squadre di ricerca all’opera. Queste immagini, in foto e in video, sono diventate uno dei simboli della catastrofe che ha colpito il Nepal e il Tibet, dei danni immani causati dallo scioglimento di un ghiacciaio. Per giorni abbiamo visto scorrere queste immagini sugli schermi dei nostri telefoni, riempire i nostri feed, occupare le homepage di tutti i siti del mondo. Queste immagini non sono vere, quel villaggio non c’è mai stato, almeno fino a quando qualcuno, da qualche parte, per qualche ragione non ha deciso di immettere nell’interfaccia di una AI generativa un prompt.
BBC Verify, unità di BBC che si occupa proprio di fact checking, ha scelto proprio questo video, tra quelli (tantissimi) che circolavano sui social nei giorni dell’inondazione al confine tra Nepal e Tibet, per provare a spiegare ai suoi lettori come fare a riconoscere un video generato con l’intelligenza artificiale. Il primo indizio è la durata: molti generatori di video AI producono sequenze che durano in media una decina di secondi, quindi i video più lunghi vanno assemblati mettendo assieme più video, fatto che si traduce in transizioni brusche, cambi di scena repentini, finali affrettati. Un video corto non è per forza falso, ma un filmato “spettacolare” che si interrompe bruscamente proprio quando l’azione si complica dovrebbe mettere sull’allerta e far dubitare della sua veridicità. Il secondo indizio è la continuità: nel video dell’inondazione in Nepal, edifici e alberi si materializzano tra un fotogramma all’altro, i veicoli svaniscono man mano che la ripresa avanza. Seppur un’inondazione sia una delle più brutali manifestazioni del caos in cui ci si possa imbattere, tutte queste cose sono semplicemente impossibili: la realtà non si manifesta e smaterializza da un secondo all’altro. Il terzo indizio è la fisica: nei video generati dall’AI spesso si vedono moto stranamente grandi che restano in piedi mentre vengono trascinate via, rocce e detriti che si muovono in modo incoerente rispetto alla direzione e alla forza dell’acqua. L’acqua turbolenta è un vantaggio per chi genera, perché è già “caotica” di suo, ma anche una corrente caotica deve interagire in modo plausibile con quello che tocca. Vedendo il video a velocità normale questi dettagli di solito sfuggono, e infatti conviene sempre mettere in pausa e scorrere il filmato fotogramma per fotogramma.
Quando i primi video AI sono iniziati a circolare su internet, riconoscerli non era così difficile, basti pensare all’ormai famosissimo video di Will Smith che mangia un piatto di spaghetti: mani distorte, volti sfigurati e corpi deformi erano campanelli d’allarme immediati. Errori da quali le AI hanno però imparato in fretta: lo stesso video di Will Smith che mangia gli spaghetti è stato generato più e più volte usando modelli di AI più recenti, e la differenza è oggettivamente stupefacente. Per scovare un video generato con l’AI ora lo sguardo deve soffermarsi sullo sfondo, dove architettura, vegetazione e piccoli dettagli compaiono, spariscono, appaiono in maniera “innaturale”. Anche le filigrane e i metadati aiutano fino a un certo punto, perché la loro assenza non dimostra niente e le piattaforme li rimuovono in fase di caricamento e compressione.
Cause giudiziarie e inchieste giornalistiche hanno rivelato che questa è una pratica ormai diffusissima. Anche perché le AI non possono più essere addestrate con contenuti presenti su internet, perché troppi contenuti presenti su internet sono ormai fatti con l'AI.
