Meta monetizza i video di abusi su bambini generati dall’intelligenza artificiale
Mentre i governi di tutto il mondo fanno leva sulla necessità di proteggere i
minori per introdurre su internet sistemi di verifica dell’età estremamente
invasivi per la privacy, un’indagine rivela che Meta ospita impunemente sulle
proprie piattaforme contenuti generati dall’IA in cui la violenza sui minori
viene trattata come uno spettacolo mesmerizzante. E non si tratta di una svista:
l’azienda si è spinta, in alcune occasioni, a difendere questo genere di
contenuti, sostenendo tacitamente che possano essere interpretati in chiave
positiva.
Spesso si fa notare che la tecnica non può rappresentare un male in sé, ma che è
la sua applicazione a definirne l’effettiva bontà. Nel caso dei social media, lo
scopo della tecnologia è sostenere un modello finanziario basato sulle
inserzioni pubblicitarie, le quali prosperano in un ecosistema digitale fatto di
interazioni costanti. Ebbene, Meta ha scoperto già da molti anni che il tasso di
partecipazione di un ecosistema digitale centralizzato su amici e parenti è ben
poca cosa, se paragonata a quello esercitato da contenuti polarizzanti e in
grado di generare sdegno.
Si tratta di un fatto già riconosciuto nel 2025 dallo stesso CEO dell’azienda,
Mark Zuckerberg, il quale, testimoniando davanti al governo statunitense in un
caso di antitrust, ha ammesso che ormai le piattaforme da lui gestite non sono
più orientate a mettere in connessione le persone, non hanno più quella funzione
di piazza pubblica che è stata millantata per anni, ma agiscono piuttosto “come
un ampio spazio di scoperta e intrattenimento”. Il fatto è che questo
intrattenimento non deve necessariamente essere di qualità: basta che sia in
grado di catturare gli occhi delle persone, spingendole poi a commentare.
In questo senso, la moda degli ultimi anni è tutta orientata sui cosiddetti “AI
slop”, contenuti generati e distribuiti massivamente nella speranza di
intercettare nicchie di mercato poco visibili, ma estremamente attive. Secondo
quanto rivelato da Futurism, una di queste frange è costituita da gruppi che
condividono e commentano video in cui infanti e bambini vengono “schiaffeggiati,
presi a calci, colpiti con oggetti pesanti, trascinati per i capelli, bruciati
su stufe o con ferri roventi, incatenati o chiusi in gabbie e congelatori,
lanciati giù dalle scale, minacciati con coltelli o pistole, affamati, o forzati
a mangiare cibo per cani o scarti raccolti da terra” e molto altro ancora.
In molti dei casi riscontrati, questi video non finiscono nelle mani di persone
compiaciute della violenza mostrata, ma, al contrario, popolano i feed di utenti
che, non rendendosi conto che si tratti di contenuti generati con l’intelligenza
artificiale, commentano mossi da sdegno e orrore. Migliaia di osservazioni di
denuncia che fluiscono senza sosta: interazioni preziosissime per gli algoritmi
di Meta, azienda che sarebbe tecnicamente in grado di prevenire la diffusione di
questi video applicando semplici filtri di verifica. Anche quando le clip
vengono segnalate, però, la Big Tech si dimostra restia a rimuoverle: Futurism
ha testato la solerzia della piattaforma segnalando otto di questi contenuti e
solo due delle clip incriminate sono state rimosse.
E, in ogni caso, quei video sono rimasti online per più di una settimana prima
di essere cancellati: un lasso di tempo talmente lungo da rendere l’intervento
praticamente inutile, dato che il grosso delle interazioni si concentra nelle
ore immediatamente successive alla pubblicazione. Un ritardo che potrebbe
indicare che il contrasto di simili contenuti sia giudicato di bassa prioritá o,
a voler essere negativi, un calcolo misurato pensato per simulare interesse
senza però intaccare gli effetti del fenomeno. Non è nemmeno chiaro con quale
pretesto alcuni video restino online, con l’azienda che si è limitata a far
notare che molti di essi non violano le proprie policy e che si concludono con
l’intervento di un adulto in difesa dei minori maltrattati, attribuendo così un
valore positivo a una narrazione che rientra a pieno titolo nel torture porn.
La proliferazione di questo genere di “abuso” algoritmico è ormai un fenomeno di
lunga data, che si ripresenta a fasi alterne, e i social media sembrano molto
più ansiosi di nasconderne l’esistenza all’opinione pubblica piuttosto che
intervenire per arginarlo. La situazione, d’altronde, poggia le sue fondamenta
su un modello economico che premia i portali e i creatori di contenuti capaci di
“drogare” i propri post, alimentando un sistema doppiamente malsano. Se da un
lato le Big Tech sono economicamente incentivate a chiudere un occhio, causando
danni alla società intera, dall’altro ci sono masse di autori concentrati spesso
in nazioni come Pakistan, India, Vietnam, Tailandia e Indonesia – aree del mondo
in cui i pochi soldi ricavati dalle interazioni massive sui social sono
sufficienti a garantire uno stipendio con cui tirare avanti la giornata.
The post Meta monetizza i video di abusi su bambini generati dall’intelligenza
artificiale appeared first on L'INDIPENDENTE.