Se ne sta parlando moltissimo dopo la denuncia della scrittrice Carolina Capria: il gruppo, a cui erano iscritti 32 mila uomini, è rimasto aperto e pubblico per 6 anni, sfuggendo a ogni moderazione.
Aggiornamento delle 14 di mercoledì 20 agosto
Il gruppo “Mia moglie” è stato chiuso, «Abbiamo rimosso il Gruppo Facebook Mia Moglie per violazione delle nostre policy contro lo sfruttamento sessuale di adulti. Non consentiamo contenuti che minacciano o promuovono violenza sessuale, abusi sessuali o sfruttamento sessuale sulle nostre piattaforme. Se veniamo a conoscenza di contenuti che incitano o sostengono lo stupro, possiamo disabilitare i gruppi e gli account che li pubblicano e condividere queste informazioni con le forze dell’ordine», si legge nel comunicato diffuso da Meta.
Non c’è niente di nuovo nella storia di “Mia moglie”, famigerato gruppo Facebook che in tanti hanno avuto il dispiacere di scoprire in queste ore grazie alla denuncia su Instagram della scrittrice Carolina Capria, ripresa poi da un articolo di VDnews e successivamente da molti altri (Ansa, Sky, Fanpage, La Stampa tra gli altri). Uomini che fotografano di nascosto le loro compagne, pubblicano queste foto su un gruppo Facebook – aperto, pubblico – senza alcun consenso e lasciano che altri uomini le commentino con affermazioni che vanno dal disgustoso al violento. Non è una storia nuova, dicevamo, né una che invecchierà tanto presto, purtroppo. Proprio per questo viene da chiedersi: perché continua a succedere? Com’è possibile che le piattaforme, in questo caso Facebook, quindi Meta, non riescano a trovare una soluzione al problema? Ancora una volta, “Mia moglie” è un gruppo aperto, pubblico, che esiste da sei anni.
Visualizza questo post su Instagram
La risposta ha a che vedere con cosa è e come si fa la moderazione dei contenuti oggi. Partiamo da un fatto, risaputo ma comunque da sottolineare: sui social media vengono pubblicati ogni giorno tantissimi contenuti illegali, nel senso di criminali, nel senso di penalmente perseguibili (violenti, pedopornografici, etc.) e che la maggior parte di questi contenuti non fanno in tempo ad arrivare agli utenti grazie al tempestivo intervento dei moderatori (sulle conseguenze psicologiche del mestiere di moderatore sono stati scritti tanti articoli, uno dei primi e più belli è questo di The Verge, dallo stupendo titolo “The Trauma Floor”). Ora, negli ultimi anni sono successe due cose che hanno reso ancora più difficile un compito già arduo come la moderazione dei contenuti sui social: le piattaforme hanno deciso di moderare meno, quindi di investire meno in personale addetto – i servizi di moderazione venivano spesso affidati ad aziende terze – e il compito è stato progressivamente ma velocemente tolto agli esseri umani e lasciato alle intelligenze artificiali.
Ricorderete le diverse affermazioni di Zuckerberg in fatto di moderazione dei contenuti delle piattaforme Meta: è da cambiare, cioè da allentare, per garantire la libertà d’espressione. Molti di questi cambiamenti sono avvenuti dopo l’elezione di Trump, momento in cui, sicuramente per un fortuito caso, Zuckerberg ha deciso di inaugurare questa nuova linea politica in fatto di moderazione. Tante persone che lavoravano in questo settore sono state licenziate e sostituite da una AI. Ora, perché questo è un problema, nei casi come quello del gruppo “Mia moglie”? Perché qualsiasi AI va addestrata ed è molto, molto difficile far capire a una AI che certi contenuti sono da moderare o da eliminare. L’AI riconosce facilmente immagini di nudo o di sesso, ma nel caso di “Mia moglie”, di immagini così ce ne sono pochissime: la maggior parte delle donne sono ritratte in momenti quotidiani, ignare di quello che il compagno sta facendo. Lo stesso discorso vale per i commenti alle fotografie: un essere umano capisce che, nel contesto di quel gruppo, un commento come «Da sfondare» è violento. Ma una macchina, per la quale quel contesto è molto più difficile da cogliere, quelle stesse parole costituiscono solo una preposizione e un verbo all’infinito: potrebbero riferirsi a una parete e non a una donna, non sono immediatamente riconoscibili come violente, a differenza di parole come “violentare” o “uccidere”, per esempio. E poi c’è la questione del consenso, fondamentale in tutti i casi come questo e in tutti i casi di violenza sulle donne: se i 32 mila uomini iscritti al gruppo “Mia moglie” sembrano incapaci di comprendere il concetto di consenso, come possiamo sperare che lo capisca una macchina, spesso addestrata, tra l’altro, fruendo i “contenuti” prodotti da quegli stessi uomini?
Questa la situazione, dunque. Al momento in cui scriviamo, il gruppo “Mia moglie” resta aperto e pubblico. È pieno di commenti indignati e disgustati di persone che lo hanno scoperto in queste ore, e di risposte sorprese e stizzite degli uomini che lo frequentavano da tempo (che nel frattempo hanno creato un nuovo gruppo, privato, da aggiungersi agli altri canali, sicuramente almeno uno Telegram, in cui scambiarsi foto). È stata sporta denuncia alla Polizia Postale e le autorità stanno indagando.
Nonostante i femminicidi, anche in Italia i contenuti legati alla manosfera sono sempre più numerosi e consumati. Tanto che è inevitabile chiedersi: com'è possibile che a un'ideologia così violenta venga ancora permesso di diffondersi?
Tra giovedì 8 e venerdì 9 gennaio, il traffico internet in Iran si è azzerato. Letteralmente. Il regime spera così di rendere più difficile l'organizzazione di nuove proteste.
Le cosiddette app di compagnia sono un settore in fortissima crescita: milioni di persone usano già l'AI come confidente e partner, con conseguenze sulla nostra idea di intimità e amore impossibili da prevedere.
