La settimana scorsa la Commissione europea ha aperto formalmente un’indagine sulla scarsissima moderazione dei contenuti sui social, soprattutto Twitter e Telegram, divenuta particolarmente evidente in seguito dopo l’attacco di Hamas a Israele (ne avevamo parlato qui e qui). Considerati i rischi legati alla pubblicazione sui social di contenuti espliciti (in primis la facilità con cui i minori possono accedervi), negli ultimi giorni la Commissione ha esteso l’indagine anche a TikTok e ha stabilito che l’azienda deve migliorare sensibilmente per quanto riguarda il rispetto delle nuove regole europee in merito. Nella comunicazione inoltrata da Thierry Breton, membro della Commissione, all’amministratore delegato di TikTok Shou Zi Chew si legge che l’Unione europea avrebbe le prove per sostenere che Hamas stia sfruttando anche questa piattaforma per diffondere contenuti illegali e disinformazione all’interno dell’Ue.
#TikTok has a particular obligation to protect children & teenagers from violent content & terrorist propaganda —as well as death challenges & potentially life-threatening content.#DSA sets out very clear obligations TikTok must comply with.
Letter to TikTok CEO Shou Zi Chew⤵️ pic.twitter.com/J1tpVzXaYR
— Thierry Breton (@ThierryBreton) October 12, 2023
Nello specifico, la Commissione ha ripreso TikTok per la risposta spesso tardiva nel rimuovere i contenuti che vengono segnalati e una moderazione insufficiente, che dà luogo alla diffusione di contenuti dannosi soprattutto per i giovani che si affidano al social come a una fonte di notizie attendibili. Come nel caso di Twitter, la Commissione ha dato 24 ore di tempo a TikTok per replicare, e la risposta non si è fatta attendere. Secondo il Guardian, TikTok avrebbe dichiarato di aver già provveduto a «implementare in maniera sostanziale le risorse e il personale che si occupa di mantenere la sicurezza e l’integrità della piattaforma». I rappresentanti dicono di aver rimosso mezzo milione di video e aver interrotto circa 8 mila live perché contenevano immagini violente ed esplicite. Tra il nuovo personale assunto da TikTok, ha spiegato l’azienda, ci sarebbero anche moderatori che parlano arabo ed ebraico. La piattaforma ha rassicurato gli utenti che nonostante le restrizioni, che hanno generato non poche critiche nei confronti di Breton, continuerà a promuovere la libertà di espressione nel rispetto dei diritti umani, ma non quando la sicurezza dell’app è messa a rischio, come di fronte alle minacce di terroristi.
L’Unione europea non è l’unica a pretendere una maggiore attenzione nella moderazione dei contenuti da parte dei social media, nelle ultime ore è infatti arrivata la notizia che il governo australiano ha multato Twitter per oltre 380 mila dollari. La piattaforma è ritenuta colpevole di non aver effettuato le dovute indagini in un caso di abusi verso minori, rifiutando di fatto di fornire le informazioni richieste dal governo australiano. Twitter non sarebbe stato in grado di comunicare le misure previste dall’azienda per verificare i casi di abusi sessuali verso minori, né i tempi previsti per queste operazioni, scrive la Bbc.
Cause giudiziarie e inchieste giornalistiche hanno rivelato che questa è una pratica ormai diffusissima. Anche perché le AI non possono più essere addestrate con contenuti presenti su internet, perché troppi contenuti presenti su internet sono ormai fatti con l'AI.
