Meta monetizza i video di abusi su bambini generati dall’intelligenza artificiale

Mentre i governi di tutto il mondo fanno leva sulla necessità di proteggere i minori per introdurre su internet sistemi di verifica dell’età estremamente invasivi per la privacy, un’indagine rivela che Meta ospita impunemente sulle proprie piattaforme contenuti generati dall’IA in cui la violenza sui minori viene trattata come uno spettacolo mesmerizzante. E non si tratta di una svista: l’azienda si è spinta, in alcune occasioni, a difendere questo genere di contenuti, sostenendo tacitamente che possano essere interpretati in chiave positiva.

Spesso si fa notare che la tecnica non può rappresentare un male in sé, ma che è la sua applicazione a definirne l’effettiva bontà. Nel caso dei social media, lo scopo della tecnologia è sostenere un modello finanziario basato sulle inserzioni pubblicitarie, le quali prosperano in un ecosistema digitale fatto di interazioni costanti. Ebbene, Meta ha scoperto già da molti anni che il tasso di partecipazione di un ecosistema digitale centralizzato su amici e parenti è ben poca cosa, se paragonata a quello esercitato da contenuti polarizzanti e in grado di generare sdegno.

Si tratta di un fatto già riconosciuto nel 2025 dallo stesso CEO dell’azienda, Mark Zuckerberg, il quale, testimoniando davanti al governo statunitense in un caso di antitrust, ha ammesso che ormai le piattaforme da lui gestite non sono più orientate a mettere in connessione le persone, non hanno più quella funzione di piazza pubblica che è stata millantata per anni, ma agiscono piuttosto “come un ampio spazio di scoperta e intrattenimento”. Il fatto è che questo intrattenimento non deve necessariamente essere di qualità: basta che sia in grado di catturare gli occhi delle persone, spingendole poi a commentare.

In questo senso, la moda degli ultimi anni è tutta orientata sui cosiddetti “AI slop”, contenuti generati e distribuiti massivamente nella speranza di intercettare nicchie di mercato poco visibili, ma estremamente attive. Secondo quanto rivelato da Futurism, una di queste frange è costituita da gruppi che condividono e commentano video in cui infanti e bambini vengono “schiaffeggiati, presi a calci, colpiti con oggetti pesanti, trascinati per i capelli, bruciati su stufe o con ferri roventi, incatenati o chiusi in gabbie e congelatori, lanciati giù dalle scale, minacciati con coltelli o pistole, affamati, o forzati a mangiare cibo per cani o scarti raccolti da terra” e molto altro ancora.

In molti dei casi riscontrati, questi video non finiscono nelle mani di persone compiaciute della violenza mostrata, ma, al contrario, popolano i feed di utenti che, non rendendosi conto che si tratti di contenuti generati con l’intelligenza artificiale, commentano mossi da sdegno e orrore. Migliaia di osservazioni di denuncia che fluiscono senza sosta: interazioni preziosissime per gli algoritmi di Meta, azienda che sarebbe tecnicamente in grado di prevenire la diffusione di questi video applicando semplici filtri di verifica. Anche quando le clip vengono segnalate, però, la Big Tech si dimostra restia a rimuoverle: Futurism ha testato la solerzia della piattaforma segnalando otto di questi contenuti e solo due delle clip incriminate sono state rimosse.

E, in ogni caso, quei video sono rimasti online per più di una settimana prima di essere cancellati: un lasso di tempo talmente lungo da rendere l’intervento praticamente inutile, dato che il grosso delle interazioni si concentra nelle ore immediatamente successive alla pubblicazione. Un ritardo che potrebbe indicare che il contrasto di simili contenuti sia giudicato di bassa prioritá o, a voler essere negativi, un calcolo misurato pensato per simulare interesse senza però intaccare gli effetti del fenomeno. Non è nemmeno chiaro con quale pretesto alcuni video restino online, con l’azienda che si è limitata a far notare che molti di essi non violano le proprie policy e che si concludono con l’intervento di un adulto in difesa dei minori maltrattati, attribuendo così un valore positivo a una narrazione che rientra a pieno titolo nel torture porn.

La proliferazione di questo genere di “abuso” algoritmico è ormai un fenomeno di lunga data, che si ripresenta a fasi alterne, e i social media sembrano molto più ansiosi di nasconderne l’esistenza all’opinione pubblica piuttosto che intervenire per arginarlo. La situazione, d’altronde, poggia le sue fondamenta su un modello economico che premia i portali e i creatori di contenuti capaci di “drogare” i propri post, alimentando un sistema doppiamente malsano. Se da un lato le Big Tech sono economicamente incentivate a chiudere un occhio, causando danni alla società intera, dall’altro ci sono masse di autori concentrati spesso in nazioni come Pakistan, India, Vietnam, Tailandia e Indonesia – aree del mondo in cui i pochi soldi ricavati dalle interazioni massive sui social sono sufficienti a garantire uno stipendio con cui tirare avanti la giornata.

The post Meta monetizza i video di abusi su bambini generati dall’intelligenza artificiale appeared first on L'INDIPENDENTE.