Cosa è il tecnopanico e perché non serve a criticare la tecnologia (e Big Tech)Immagine in evidenza: unsplash
Non è un mistero il fatto che viviamo in tempi distopici, dove le
interconnessioni tra tecnologia e politica illuminano un presente caratterizzato
da controversie, diritti violati, potere sempre più concentrato. È una realtà
politico-economica che in alcune sue sfumature fa impallidire le narrazioni più
scure del cyberpunk, come scrive il collettivo Acid Horizon, ma sono anche tempi
che vengono, spesso, molto mal raccontati. Specialmente nei media mainstream, da
quasi una decina di anni, i toni attorno alle tecnologie si sono fatti spesso
apocalittici: secondo queste narrazioni, la rete ha ucciso la democrazia,
mandato al potere il nuovo autoritarismo, ci ha reso soli, stupidi e sudditi.
Tutto perché passiamo gran parte del nostro tempo online o interagendo con
tecnologie digitali.
Quello che spesso viene chiamato “techlash”, ovvero il clima di manifesta e
crescente ostilità verso la tecnologia che si è instaurato nel dibattito
pubblico a partire dallo scandalo Cambridge Analytica è un fenomeno ancora in
corso che, se da un lato ha favorito fondamentali discussioni critiche attorno
alla tecnologia, aperto importanti percorsi legislativi e di regolamentazione e
ha chiuso un momento di euforico e acritico entusiasmo nei confronti del
“progresso” della Silicon Valley, dall’altro ha anche scoperchiato il vaso di
Pandora del catastrofismo più superficiale e vacuo. Peraltro, quel catastrofismo
è l’altro lato della medaglia del “tecnoentusiasmo”: un mix di determinismo,
ascientificità, hype e profezie che si autoavverano.
TECNOPANICO, IL SAGGIO DI ALBERTO ACERBI
Il nuovo saggio di Alberto Acerbi, ricercatore del Dipartimento di sociologia e
ricerca sociale dell’Università di Trento, Tecnopanico (Il Mulino) affronta
proprio la genesi di quel catastrofismo e delle paure su cui si basa, puntando a
smontare alcuni miti e false credenze della vulgata tecnologica contemporanea.
Guardando principalmente a quello che pensiamo di sapere su disinformazione,
teorie del complotto, algoritmi e implicazioni psicologiche dell’uso dei social
media, il saggio di Acerbi fornisce soprattutto una panoramica degli studi sul
tema che cerca di portare al centro del dibattito i risultati della ricerca, che
in molti casi è sanamente non conclusiva, e lo fa con un sano scetticismo.
Per quanto sia fondamentale non negare le complicazioni e le problematicità di
questo momento storico-tecnologico – come dicevamo fortemente distopico – resta
importante navigare quei problemi basandosi su dati reali e non su narrazioni di
comodo e alternativamente allarmistiche o di acritico entusiasmo. E,
soprattutto, senza cadere in un facile panico morale che serve per lo più a
sviare la discussione e l’analisi del presente. Anche perché, spiega Acerbi,
quasi tutti i “presenti” hanno puntato pigramente il dito contro le nuove
tecnologie di quei momenti, che si sono in seguito diffuse e sono divenute tra
le più rappresentative di quelle epoche. A ogni tecnologia corrisponde quindi un
nuovo “panico”.
“Il panico attorno alla tecnologia non si manifesta esclusivamente con le
tecnologie di comunicazione e digitali, anzi, uno dei temi principali del libro
riguarda proprio l’importanza di assumere una ‘lunga prospettiva’ sulle reazioni
alle tecnologie passate. In questo modo possiamo osservare dei pattern comuni e
capire meglio quello che sta accadendo oggi”, spiega Acerbi a Guerre di Rete.
“Ci sono panici che possiamo avere ma possiamo andare più lontano nel passato:
la radio, i romanzi, la stampa o addirittura la scrittura. Pensiamo per esempio
alla stampa. Negli anni successivi alla sua diffusione in Europa c’erano
preoccupazioni che ricordano quelle di oggi: moltiplicazione incontrollata di
informazioni, circolazione di falsità e via dicendo. L’aspetto interessante è
che la società si è adattata alla stampa con altre invenzioni, come gli indici
analitici e le enciclopedie, e tramite cambiamenti di comportamenti che puntano
a risolvere questi problemi”.
UNA CONCEZIONE DETERMINISTICA DELLE TECNOLOGIE
Alla base del “tecnopanico” c’è una concezione deterministica delle tecnologie,
che le inquadra come forze indipendenti dalla produzione umana o dal contesto
socio-politico che le produce, capaci in maniera autonoma di generare effetti
diretti nella società, come se non fossero un prodotto di quest’ultima, ma una
forza aliena. Secondo Acerbi, in particolare, queste forme di panico
“considerano l’introduzione delle tecnologie come un processo a senso unico, in
cui una nuova tecnologia cambia in modo deterministico le nostre abitudini, la
nostra società e la nostra cultura”. Al contrario, come invece insegnano, per
esempio, decenni di studi sulla costruzione sociale della tecnologia, nessuna
innovazione, nemmeno quella più potente (come l’AI, ci arriviamo) ha queste
capacità. Eppure, il “tecnopanico” è dappertutto e spesso, anzi, guida le scelte
di policy e di regolamentazione delle tecnologie digitali, sedendosi ai tavoli
dei legislatori più spesso degli esperti. Anche perché il “tecnopanico” ha
megafoni molto forti.
“Sicuramente oggi il ‘tecnopanico’ è diventato mainstream. Una ragione è
l’integrazione capillare della tecnologia nella vita quotidiana: tutti abbiamo
un’esperienza personale e diretta di smartphone, social media e via dicendo”,
spiega ancora Acerbi. “Questo è un pattern con caratteristiche ricorrenti: il
riferimento a un’epoca precedente in cui le cose erano migliori. Pensiamo
all’idea di epoca della ‘post-verità’, che necessariamente suppone l’esistenza
di un’epoca ‘della verità’. L’amplificazione da parte di media che spesso sono
in diretta concorrenza con le tecnologie, come gli attacchi ai social media dai
canali di informazione tradizionali, creano una narrazione in cui il pubblico è
visto come passivo, vulnerabile, facilmente manipolabile”.
MISINFORMAZIONE, DISINFORMAZIONE E INFORMATION DISORDER
La credenza che vuole gli essere umani vulnerabili e manipolabili è al centro,
per esempio, del “tecnopanico” con cui spesso si parla di mis- e disinformazione
e, in generale, dei fenomeni connessi all’information disorder. “Ci sono varie
ragioni che spiegano il successo delle narrazioni allarmistiche riguardo alla
disinformazione online. Una è semplicemente che, rispetto all’epoca pre-social
media, la disinformazione è visibile e quantificabile. Ma ci sono ragioni più
profonde”, spiega l’autore di Tecnopanico. Queste ragioni sono spesso politiche:
“La disinformazione fornisce una causa e possibilmente una soluzione semplice a
problemi complessi. È facile pensare che le persone che votano diversamente da
noi, o che sono contrarie ai vaccini, siano influenzate primariamente dalla
disinformazione. In questo modo, però, non si guarda alle cause strutturali, che
hanno radici sociali, culturali, ed economiche più complesse”.
Inoltre, siamo naturalmente propensi a pensare che siano le altre persone a
essere predisposte a cadere in false credenze e mai noi stessi, un elemento
verificato da Acerbi stesso in un esperimento con Sacha Altay (Experimental
psychologist dell’Università di Zurigo, nda): “Abbiamo chiesto ai partecipanti
quanto pensassero che la disinformazione online fosse diffusa e pericolosa
insieme ad altre domande. Il fattore che prediceva meglio quanto i partecipanti
fossero preoccupati della disinformazione online era la differenza tra la loro
abilità percepita di identificare informazioni false e quello che pensavano
degli altri. C’è anche un nome per questo: effetto terza persona”.
Ovviamente, la disinformazione esiste, e questo spiega perché si sia vista
crescere l’attenzione verso di essa da parte della ricerca, del mondo
dell’informazione e della politica. Il problema, però, emerge quando si utilizza
questa facile spiegazione per dare ragione di fenomeni sociali e politici
profondi, complessi e di lungo periodo. Per esempio, la Brexit non è avvenuta
per causa diretta della disinformazione sui social media e Donald Trump non ha
vinto – due volte – le elezioni presidenziali a causa solamente della propaganda
digitale. Spesso, però, questi fenomeni, che certamente concorrono al clima
politico contemporaneo e al rendere le sue dinamiche ancora più complesse,
vengono utilizzati come prova conclusiva per dare una giustificazione a
rivolgimenti politici radicali.
LA SVOLTA DI CAMBRIDGE ANALYTICA E IL TECHLASH
Uno dei momenti di svolta in questi dibattiti, e che viene spesso considerato
come l’inizio di questo tipo di techlash, è stato lo scandalo Cambridge
Analytica del 2018. Cambridge Analytica ha aperto un varco nel business, per lo
più oscuro, della propaganda politica digitale, sollevando enormi interrogativi
legati ai temi di data justice e costretto Meta a un’operazione trasparenza
inedita. Presto, però, le conseguenze politiche dello scandalo, poiché toccavano
Donald Trump e il “Leave” nel contesto della Brexit, hanno preso il sopravvento
nella copertura mediatica e anche nella cultura pop. La storia aveva in sé
diversi elementi fondativi del “tecnopanico”: l’uso potenzialmente manipolatorio
delle tecnologie digitali, la loro applicazione in politica, le connessioni con
forze politiche di estrema destra, tratti potenzialmente criminosi e una genesi
giornalistica non usuale: un leak. E i toni sensazionalistici hanno presto preso
il sopravvento su quella che, invece, poteva essere una necessaria analisi di
come l’economia dei dati fosse progressivamente diventata un colabrodo, con
conseguenze sui diritti di tutte le personei.
“Da subito, nel caso di Cambridge Analytica, i ricercatori avevano mostrato che
gli effetti reali delle campagne di CA erano quantomeno dubbi. C’erano punti
importanti: la raccolta e l’uso opaco dei dati personali, le pratiche delle
piattaforme digitali, la mancanza di trasparenza e accountability, ma questo
veniva oscurato da una narrazione semplificata e drammatica, centrata su un
colpevole chiaro e su effetti immediati e spettacolari”, spiega Alberto Acerbi
che, in Tecnopanico, dedica un capitolo al caso. Una dinamica simile, in
relazione ai rischi “esistenziali” della tecnologia, si vede oggi all’opera nel
modo in cui l’intelligenza artificiale viene narrata nel dibattito pubblico, una
fucina sempre proficua di “tecnopanico”, con paure, spesso, più
fantascientifiche che altro.
“La narrazione semplificata ed esagerata, ripetuta in modo analogo da accusatori
e dai CEO delle aziende di AI, impone un focus su scenari apocalittici o su
episodi sensazionalistici, più che su temi cruciali come i bias nei dataset, le
implicazioni sul lavoro o il potere di pochi attori nel dettare le regole dello
sviluppo tecnologico”, continua Acerbi. “Anche in questo caso, per ora, le
ricerche mostrano effetti tutto sommato limitati: per esempio, molti ricercatori
e soprattutto i media erano preoccupati dell’influenza dell’AI nell’anno
elettorale 2024. Si pensava a falsi e propaganda super-efficace. Oggi possiamo
dire che niente di ciò è successo”. L’utilizzo dell’AI a fini di propaganda
politica nell’anno in cui la metà della popolazione del pianeta è andata a
votare è infatti risultato molto ridotto, come confermato da diverse analisi.
Anche i deepfake, una delle tecnologie più dibattute in questo terreno, al
momento hanno trovato un’applicazione limitata – ma crescente – nella propaganda
politica, mentre continuano invece a essere un fenomeno amplissimo e drammatico
nel contesto della misoginia online, della diffusione non consensuale di
materiale intimo e della violenza facilitata dalla tecnologia.
GLI EFFETTI COLLATERALI DEL TECNOPANICO
Uno dei meriti maggiori di Tecnopanico è quello di mostrare come queste
narrazioni dedicate alla tecnologia siano spesso molto simili tra loro e
adattabili alle caratteristiche delle tecnologie verso cui vengono indirizzate e
come abbiano la capacità di diventare molto potenti, specialmente nel
mainstream, spesso finendo per indebolire anche le critiche più sostanziali,
necessarie e radicali: “Uno degli effetti collaterali più perversi
del tecnopanico è proprio questo: rende molto più difficile articolare
obiezioni e analisi ragionate, basate su dati e riflessioni approfondite, senza
essere immediatamente inglobati (o respinti) dentro una narrazione allarmistica
già saturata”, spiega Acerbi. Questo accade anche alla ricerca accademica, che
fatica a spingere i suoi risultati e il suo punto di vista: “Quando ogni critica
viene assorbita in un ecosistema comunicativo dominato da titoli
sensazionalistici, indignazione morale e profezie apocalittiche, le voci più
pacate rischiano di suonare troppo distaccate o addirittura complici del
sistema. In realtà penso sia il contrario. Come scrivo nel libro, ho spesso
notato una strana convergenza tra tecno-ottimisti e tecno-catastrofisti:
entrambi pensano che le tecnologie abbiano un effetto deterministico e
dirompente sugli individui e sulla società e che il nostro ruolo sia soprattutto
passivo. Come visto negli esempi di cui abbiamo parlato, le narrazioni
allarmistiche fanno molto comodo a coloro che controllano questi strumenti:
legittimano il loro (presunto) potere e oscurano i problemi più pressanti”,
conclude Acerbi.
Questo è particolarmente evidente in relazione all’AI, attorno alla quale il
dibattito è ancora sensazionalistico e spesso guidato dalle aziende, che hanno
tutto l’interesse a farsi percepire come le uniche depositarie delle soluzioni
necessarie a tenere sotto controllo i pericoli connessi alla tecnologia che esse
stesse stanno creando. Il risultato è far, di nuovo, passare l’AI come qualcosa
di magico, depositario di poteri e tratti inspiegabili e di difficile controllo,
forse prossimi alla presa del potere, come vuole il topos narrativo più abusato
relativo alla tecnologia. Alla società digitale in cui ci troviamo, però,
servono meno narrazioni e più ricerca, meno profezie e più policy e, in
definitiva, meno tecnopanico e più critica.
L'articolo Cosa è il tecnopanico e perché non serve a criticare la tecnologia (e
Big Tech) proviene da Guerre di Rete.