Cosa è il tecnopanico e perché non serve a criticare la tecnologia (e Big Tech)

Immagine in evidenza:  unsplash 

Non è un mistero il fatto che viviamo in tempi distopici, dove le interconnessioni tra tecnologia e politica illuminano un presente caratterizzato da controversie, diritti violati, potere sempre più concentrato. È una realtà politico-economica che in alcune sue sfumature fa impallidire le narrazioni più scure del cyberpunk, come scrive il collettivo Acid Horizon, ma sono anche tempi che vengono, spesso, molto mal raccontati. Specialmente nei media mainstream, da quasi una decina di anni, i toni attorno alle tecnologie si sono fatti spesso apocalittici: secondo queste narrazioni, la rete ha ucciso la democrazia, mandato al potere il nuovo autoritarismo, ci ha reso soli, stupidi e sudditi. Tutto perché passiamo gran parte del nostro tempo online o interagendo con tecnologie digitali. 

Quello che spesso viene chiamato “techlash”, ovvero il clima di manifesta e crescente ostilità verso la tecnologia che si è instaurato nel dibattito pubblico a partire dallo scandalo Cambridge Analytica è un fenomeno ancora in corso che, se da un lato ha favorito fondamentali discussioni critiche attorno alla tecnologia, aperto importanti percorsi legislativi e di regolamentazione e ha chiuso un momento di euforico e acritico entusiasmo nei confronti del “progresso” della Silicon Valley, dall’altro ha anche scoperchiato il vaso di Pandora del catastrofismo più superficiale e vacuo. Peraltro, quel catastrofismo è l’altro lato della medaglia del “tecnoentusiasmo”: un mix di determinismo, ascientificità, hype e profezie che si autoavverano. 

Tecnopanico, il saggio di Alberto Acerbi

Il nuovo saggio di Alberto Acerbi, ricercatore del Dipartimento di sociologia e ricerca sociale dell’Università di Trento, Tecnopanico (Il Mulino) affronta proprio la genesi di quel catastrofismo e delle paure su cui si basa, puntando a smontare alcuni miti e false credenze della vulgata tecnologica contemporanea. Guardando principalmente a quello che pensiamo di sapere su disinformazione, teorie del complotto, algoritmi e implicazioni psicologiche dell’uso dei social media, il saggio di Acerbi fornisce soprattutto una panoramica degli studi sul tema che cerca di portare al centro del dibattito i risultati della ricerca, che in molti casi è sanamente non conclusiva, e lo fa con un sano scetticismo. 

Per quanto sia fondamentale non negare le complicazioni e le problematicità di questo momento storico-tecnologico – come dicevamo fortemente distopico – resta importante navigare quei problemi basandosi su dati reali e non su narrazioni di comodo e alternativamente allarmistiche o di acritico entusiasmo. E, soprattutto, senza cadere in un facile panico morale che serve per lo più a sviare la discussione e l’analisi del presente. Anche perché, spiega Acerbi, quasi tutti i “presenti” hanno puntato pigramente il dito contro le nuove tecnologie di quei momenti, che si sono in seguito diffuse e sono divenute tra le più rappresentative di quelle epoche. A ogni tecnologia corrisponde quindi un nuovo “panico”.

“Il panico attorno alla tecnologia non si manifesta esclusivamente con le tecnologie di comunicazione e digitali, anzi, uno dei temi principali del libro riguarda proprio l’importanza di assumere una ‘lunga prospettiva’ sulle reazioni alle tecnologie passate. In questo modo possiamo osservare dei pattern comuni e capire meglio quello che sta accadendo oggi”, spiega Acerbi a Guerre di Rete. “Ci sono panici che possiamo avere ma possiamo andare più lontano nel passato: la radio, i romanzi, la stampa o addirittura la scrittura. Pensiamo per esempio alla stampa. Negli anni successivi alla sua diffusione in Europa c’erano preoccupazioni che ricordano quelle di oggi: moltiplicazione incontrollata di informazioni, circolazione di falsità e via dicendo. L’aspetto interessante è che la società si è adattata alla stampa con altre invenzioni, come gli indici analitici e le enciclopedie, e tramite cambiamenti di comportamenti che puntano a risolvere questi problemi”. 

Una concezione deterministica delle tecnologie

Alla base del “tecnopanico” c’è una concezione deterministica delle tecnologie, che le inquadra come forze indipendenti dalla produzione umana o dal contesto socio-politico che le produce, capaci in maniera autonoma di generare effetti diretti nella società, come se non fossero un prodotto di quest’ultima, ma una forza aliena. Secondo Acerbi, in particolare, queste forme di panico “considerano l’introduzione delle tecnologie come un processo a senso unico, in cui una nuova tecnologia cambia in modo deterministico le nostre abitudini, la nostra società e la nostra cultura”. Al contrario, come invece insegnano, per esempio, decenni di studi sulla costruzione sociale della tecnologia, nessuna innovazione, nemmeno quella più potente (come l’AI, ci arriviamo) ha queste capacità. Eppure, il “tecnopanico” è dappertutto e spesso, anzi, guida le scelte di policy e di regolamentazione delle tecnologie digitali, sedendosi ai tavoli dei legislatori più spesso degli esperti. Anche perché il “tecnopanico” ha megafoni molto forti.

“Sicuramente oggi il ‘tecnopanico’ è diventato mainstream. Una ragione è l’integrazione capillare della tecnologia nella vita quotidiana: tutti abbiamo un’esperienza personale e diretta di smartphone, social media e via dicendo”, spiega ancora Acerbi. “Questo è un pattern con caratteristiche ricorrenti: il riferimento a un’epoca precedente in cui le cose erano migliori. Pensiamo all’idea di epoca della ‘post-verità’, che necessariamente suppone l’esistenza di un’epoca ‘della verità’. L’amplificazione da parte di media che spesso sono in diretta concorrenza con le tecnologie, come gli attacchi ai social media dai canali di informazione tradizionali, creano una narrazione in cui il pubblico è visto come passivo, vulnerabile, facilmente manipolabile”. 

Misinformazione, disinformazione e information disorder

La credenza che vuole gli essere umani vulnerabili e manipolabili è al centro, per esempio, del “tecnopanico” con cui spesso si parla di mis- e disinformazione e, in generale, dei fenomeni connessi all’information disorder. “Ci sono varie ragioni che spiegano il successo delle narrazioni allarmistiche riguardo alla disinformazione online. Una è semplicemente che, rispetto all’epoca pre-social media, la disinformazione è visibile e quantificabile. Ma ci sono ragioni più profonde”, spiega l’autore di Tecnopanico. Queste ragioni sono spesso politiche: “La disinformazione fornisce una causa e possibilmente una soluzione semplice a problemi complessi. È facile pensare che le persone che votano diversamente da noi, o che sono contrarie ai vaccini, siano influenzate primariamente dalla disinformazione. In questo modo, però, non si guarda alle cause strutturali, che hanno radici sociali, culturali, ed economiche più complesse”. 

Inoltre, siamo naturalmente propensi a pensare che siano le altre persone a essere predisposte a cadere in false credenze e mai noi stessi, un elemento verificato da Acerbi stesso in un esperimento con Sacha Altay (Experimental psychologist dell’Università di Zurigo, nda): “Abbiamo chiesto ai partecipanti quanto pensassero che la disinformazione online fosse diffusa e pericolosa insieme ad altre domande. Il fattore che prediceva meglio quanto i partecipanti fossero preoccupati della disinformazione online era la differenza tra la loro abilità percepita di identificare informazioni false e quello che pensavano degli altri. C’è anche un nome per questo: effetto terza persona”.

Ovviamente, la disinformazione esiste, e questo spiega perché si sia vista crescere l’attenzione verso di essa da parte della ricerca, del mondo dell’informazione e della politica. Il problema, però, emerge quando si utilizza questa facile spiegazione per dare ragione di fenomeni sociali e politici profondi, complessi e di lungo periodo. Per esempio, la Brexit non è avvenuta per causa diretta della disinformazione sui social media e Donald Trump non ha vinto – due volte – le elezioni presidenziali a causa solamente della propaganda digitale. Spesso, però, questi fenomeni, che certamente concorrono al clima politico contemporaneo e al rendere le sue dinamiche ancora più complesse, vengono utilizzati come prova conclusiva per dare una giustificazione a rivolgimenti politici radicali. 

La svolta di Cambridge Analytica e il techlash

Uno dei momenti di svolta in questi dibattiti, e che viene spesso considerato come l’inizio di questo tipo di techlash, è stato lo scandalo Cambridge Analytica del 2018. Cambridge Analytica ha aperto un varco nel business, per lo più oscuro, della propaganda politica digitale, sollevando enormi interrogativi legati ai temi di data justice e costretto Meta a un’operazione trasparenza inedita. Presto, però, le conseguenze politiche dello scandalo, poiché toccavano Donald Trump e il “Leave” nel contesto della Brexit, hanno preso il sopravvento nella copertura mediatica e anche nella cultura pop. La storia aveva in sé diversi elementi fondativi del “tecnopanico”: l’uso potenzialmente manipolatorio delle tecnologie digitali, la loro applicazione in politica, le connessioni con forze politiche di estrema destra, tratti potenzialmente criminosi e una genesi giornalistica non usuale: un leak. E i toni sensazionalistici hanno presto preso il sopravvento su quella che, invece, poteva essere una necessaria analisi di come l’economia dei dati fosse progressivamente diventata un colabrodo, con conseguenze sui diritti di tutte le personei. 

“Da subito, nel caso di Cambridge Analytica, i ricercatori avevano mostrato che gli effetti reali delle campagne di CA erano quantomeno dubbi. C’erano punti importanti: la raccolta e l’uso opaco dei dati personali, le pratiche delle piattaforme digitali, la mancanza di trasparenza e accountability, ma questo veniva oscurato da una narrazione semplificata e drammatica, centrata su un colpevole chiaro e su effetti immediati e spettacolari”, spiega Alberto Acerbi che, in Tecnopanico, dedica un capitolo al caso. Una dinamica simile, in relazione ai rischi “esistenziali” della tecnologia, si vede oggi all’opera nel modo in cui l’intelligenza artificiale viene narrata nel dibattito pubblico, una fucina sempre proficua di “tecnopanico”, con paure, spesso, più fantascientifiche che altro. 

“La narrazione semplificata ed esagerata, ripetuta in modo analogo da accusatori e dai CEO delle aziende di AI,  impone un focus su scenari apocalittici o su episodi sensazionalistici, più che su temi cruciali come i bias nei dataset, le implicazioni sul lavoro o il potere di pochi attori nel dettare le regole dello sviluppo tecnologico”, continua Acerbi. “Anche in questo caso, per ora, le ricerche mostrano effetti tutto sommato limitati: per esempio, molti ricercatori e soprattutto i media erano preoccupati dell’influenza dell’AI nell’anno elettorale 2024. Si pensava a falsi e propaganda super-efficace. Oggi possiamo dire che niente di ciò è successo”. L’utilizzo dell’AI a fini di propaganda politica nell’anno in cui la metà della popolazione del pianeta è andata a votare è infatti risultato molto ridotto, come confermato da diverse analisi. Anche i deepfake, una delle tecnologie più dibattute in questo terreno, al momento hanno trovato un’applicazione limitata – ma crescente – nella propaganda politica, mentre continuano invece a essere un fenomeno amplissimo e drammatico nel contesto della misoginia online, della diffusione non consensuale di materiale intimo e della violenza facilitata dalla tecnologia.

Gli effetti collaterali del tecnopanico

Uno dei meriti maggiori di Tecnopanico è quello di mostrare come queste narrazioni dedicate alla tecnologia siano spesso molto simili tra loro e adattabili alle caratteristiche delle tecnologie verso cui vengono indirizzate e come abbiano la capacità di diventare molto potenti, specialmente nel mainstream, spesso finendo per indebolire anche le critiche più sostanziali, necessarie e radicali: “Uno degli effetti collaterali più perversi del tecnopanico è proprio questo:  rende molto più difficile articolare obiezioni e analisi ragionate, basate su dati e riflessioni approfondite, senza essere immediatamente inglobati (o respinti) dentro una narrazione allarmistica già saturata”, spiega Acerbi. Questo accade anche alla ricerca accademica, che fatica a spingere i suoi risultati e il suo punto di vista: “Quando ogni critica viene assorbita in un ecosistema comunicativo dominato da titoli sensazionalistici, indignazione morale e profezie apocalittiche, le voci più pacate rischiano di suonare troppo distaccate o addirittura complici del sistema. In realtà penso sia il contrario. Come scrivo nel libro, ho spesso notato una strana convergenza tra tecno-ottimisti e tecno-catastrofisti: entrambi pensano che le tecnologie abbiano un effetto deterministico e dirompente sugli individui e sulla società e che il nostro ruolo sia soprattutto passivo. Come visto negli esempi di cui abbiamo parlato, le narrazioni allarmistiche fanno molto comodo a coloro che controllano questi strumenti: legittimano il loro (presunto) potere e oscurano i problemi più pressanti”, conclude Acerbi.  

Questo è particolarmente evidente in relazione all’AI, attorno alla quale il dibattito è ancora sensazionalistico e spesso guidato dalle aziende, che hanno tutto l’interesse a farsi percepire come le uniche depositarie delle soluzioni necessarie a tenere sotto controllo i pericoli connessi alla tecnologia che esse stesse stanno creando. Il risultato è far, di nuovo, passare l’AI come qualcosa di magico, depositario di poteri e tratti inspiegabili e di difficile controllo, forse prossimi alla presa del potere, come vuole il topos narrativo più abusato relativo alla tecnologia. Alla società digitale in cui ci troviamo, però, servono meno narrazioni e più ricerca, meno profezie e più policy e, in definitiva, meno tecnopanico e più critica.

L'articolo Cosa è il tecnopanico e perché non serve a criticare la tecnologia (e Big Tech) proviene da Guerre di Rete.