L’IA dentro e fuori di noi

Le recenti dichiarazioni di esperti sul pericolo per l’umanità rappresentato dallo sviluppo incontrollato dell’IA non sembrano aver prodotto alcuna reazione significativa. Molti, giustamente, hanno paura dei data center, perché comprendiamo che ci succhiano l’acqua di cui abbiamo bisogno. Ma quali sono le altre ragioni per preoccuparci sul serio per lo sviluppo della cosiddetta intelligenza artificiale? C’è la possibilità di utilizzarla come strumento che favorisce la liberazione dalle molte asfissie che opprimono le nostre vite? Sappiamo che l’IA si basa su un continuo processo di codificazione, cioè di interpretazione di parole e immagini e traduzione in codici che, a loro volta, vengono reinterpretati e ritradotti in parole. Ci sono almeno tre elementi che caratterizzano questo processo, apparentemente soltanto tecnico. Il primo: noi siamo a tutti gli effetti parte di questo sistema: la traduzione che l’IA opera con noi e su di noi modifica continuamente la nostra relazione con il mondo. Il secondo: quella traduzione avviene con una velocità e pervasività impensabile fino a pochi anni fa. Il terzo: è un processo che, proprio per questi elementi, influenza e altera la costituzione delle soggettività, soprattutto dei più giovani

“Io non ho paura di Berlusconi in sé. Ho paura del Berlusconi in me”
(Gian Piero Alloisio, artista italiano)

“L’intelligenza artificiale vi spaventa?“. È con questa domanda, rivolta ai relatori invitati, che la moderatrice ha dato inizio all’incontro su “Traduzione e IA”, presso la Scuola Superiore di Educazione del Politecnico di Lisbona, il 15 ottobre. Si tratta di una domanda complessa, alla quale non è possibile rispondere con un semplice sì o no. La difficoltà – molto ben argomentata dai relatori e dalle relatrici – risiede nell’ampia gamma di attività e sfumature che le caratterizzano, e con le quali tutti noi abbiamo a che fare, fidandoci, o meno, dei potenti mezzi che l’IA ci offre quotidianamente.

Oltre ad essere complessa, quella domanda va direttamente al cuore del problema che definisce il rapporto tra noi e l’IA.

Che cosa ci spaventa abitualmente? Ciò che conosciamo – anche se non sempre in modo diretto – e che, come abbiamo imparato nel corso dei secoli, può nuocerci (le malattie, la guerra, il fuoco, ecc.). Sono gli elementi che appartengono al nostro orizzonte di riferimento; con essi manteniamo un rapporto di “familiarità”, rientrano nelle letture e negli ascolti quotidiani, attraverso gli innumerevoli mezzi di comunicazione che ci circondano. Vi spaventa la guerra? Vi spaventa il licenziamento dal vostro lavoro, lo sfratto dalla vostra casa? Lì sarebbe più facile rispondere sì o no, e argomentare con spiegazioni esaurienti.

Ma ci sono altri elementi con cui abbiamo un rapporto diverso, meno diretto. Sono quelli che non possiamo dire di conoscere; con questi riusciamo a mantenere solo un rapporto di “esteriorità”. Si tratta, in questo caso, di cose che stanno “là fuori”, delle quali non abbiamo, direttamente o indirettamente, alcuna esperienza. Possono essere elementi di natura empirica, mitologica, fantasmagorica, a seconda delle nostre attitudini, abitudini mentali, al nostro retaggio storico personale o collettivo. Il rapporto con questi elementi si fonda su qualcosa di diverso dalla paura.

Come può spaventare, in fin dei conti, qualcosa che non conosciamo, come per esempio un volo in astronave nello spazio, incontrare un lupo mannaro, o essere un abitante della Terra di Mezzo sotto il dominio di Sauron?

Mark Fisher, in The weird and the eerie. Lo strano e l’inquietante nel mondo contemporaneo – l’ultimo libro che ha pubblicato in vita – ci offre una lettura di questa differenza tra il familiare e l'”infamiliare”. Questo può aiutarci a dare una risposta più contestualizzata alla domanda della moderatrice, ma esige, prima di tutto, una riformulazione del punto di partenza.

Sono pochi, al di fuori delle comunità di specialisti, coloro che sanno esattamente come funziona l’IA, al di là di ciò che tutti già conosciamo. L’elaborazione di miliardi di informazioni trasformate in token, che dialogano con le nostre proposizioni, a loro volta “tokenizzate”, è l’unica parte del processo con cui abbiamo una certa familiarità. Tutto il resto continua a stare “là fuori”, in una scatola nera che raccoglie codici, metodologie, fonti, agenti, studi e simulazioni che potrebbero dirci molto sulla dimensione e sul funzionamento del processo.

Ancora meno, probabilmente, sono coloro che cercano di sapere come quei processi stanno alterando i principi basilari del nostro essere raziocinante e che influenza potrebbero avere sulla costituzione delle soggettività, soprattutto dei più giovani, quelli che oggi hanno, diciamo, dai 10 ai 15 anni. Studi recenti riportati nell’articolo di Melanie Challanger su AEON, Deskilling the body, mostrano come l’uso massiccio degli strumenti più comuni dell’IA comprometta seriamente alcune delle nostre capacità. Il corpo sarà interessato da un processo di riduzione progressiva delle abilità, fisiche e mentali, che sono alla base del nostro rapporto con il mondo.

La nostra ignoranza totale su quelle componenti e su queste minacce ci mette al riparo dal sentire o non sentire paura. Tutt’al più, le collochiamo nel dominio dello strano e dell’inquietante, non in quello delle esperienze veramente spaventose. Le recenti dichiarazioni di esperti sul pericolo per l’umanità rappresentato dallo sviluppo incontrollato dell’IA non hanno prodotto alcuna reazione significativa. Nessuno può sapere con certezza le ragioni di quelle dichiarazioni; resta il fatto che il dibattito che hanno innescato non è durato più di una settimana.

Abbiamo paura, sì, dei data center, perché comprendiamo che ci succhiano l’acqua di cui abbiamo bisogno, mangiano quantità incredibili di energia che potrebbe mancare per le nostre necessità. Ma basta che siano lontani da dove viviamo e tutto scompare, continuiamo con le nostre pigre ricerche.

L’IA sta entrando rapidamente nelle nostre vite, ma lo fa attraverso un processo che la distingue da ciò che è accaduto nel corso della storia del capitalismo. Non ci lascia il tempo di indagare che cosa essa sia realmente (un avverbio complicato, ma, in attesa di trovarne uno migliore, manteniamolo), perché la sua evoluzione è così rapida da lasciarci disorientati. Chi può dire, al di fuori degli specialisti, di aver seguito attentamente l’evoluzione del machine learning, al deep learning e ora all’IA agentica?

Ciò che la distingue dalle altre innovazioni degli ultimi due secoli è proprio la posizione che mantiene rispetto a ciò che siamo: una posizione di esteriorità. A partire da quella posizione, l’IA agisce, ci agisce, producendo in noi sensazioni che, con le parole di Fisher, generano, più che paura, qualcosa riconducibile allo strano e all’inquietante.

La parola chiave per comprendere il senso e la funzione di questi due termini è, per ora, il fuori.

Il fuori non è semplicemente ciò che sta al di là della nostra portata, ma piuttosto il fuori assoluto, una lontananza che non si può misurare in termini spaziali o temporali, indifferente alla nostra vita e alla nostra morte. Deleuze, che per Fisher rappresenta un riferimento importante, ha definito in modo inequivocabile che cos’è il fuori. È il regno delle forze, delle forze del fuori, che cambiano nel passaggio tra differenti formazioni storiche. Le forze dell’uomo entrano in relazione con queste, attraverso la piega che le forze del fuori producono. In questo ripiegamento le forze del fuori vanno a costituire la parte più profonda del nostro interno.

“Non esiste interno – scrive Fisher – se non come piega dell’esterno; lo specchio si crepa, io sono un altro e lo sono sempre stato”. Il fuori che diventa interno è il processo di soggettivazione.

L’IA, oltre ad agire, agisce su di noi attraverso noi stessi. È così che si producono i rapporti di potere, di cui siamo parte, perché, consapevolmente o inconsapevolmente, contribuiamo a formarli. Mark Fisher descrive questo processo, prendendo come riferimento il concetto lacaniano di jouissance (godimento), che tiene insieme piacere e dolore. “Un lavoro di jouissance […] non ‘redime’ la negatività in alcun senso: la sublima. Ossia, trasforma un oggetto comune che causa dispiacere in una Cosa che è tanto terribile quanto seducente, che non può più essere classificata come positiva o negativa. La Cosa sovrasta, non può essere contenuta, ma esercita fascino”.

Le nostre forze entrano in rapporto con le nuove forze del fuori, che trovano oggi la loro più forte connotazione in tutto ciò che l’IA ci presenta. Capire quali sono gli elementi che entrano in gioco nella composizione della soggettività, ridefinirne i confini è il compito che ci ha lasciato l’operaismo, da cui non vogliamo distanziarci. La posta in gioco è, ancora una volta, contrastare con tutti i mezzi l’asfissia che opprime le nostre vite.

Ciò che consideriamo strano e inquietante, da un lato, e familiare, dall’altro, è ciò che consente di aggiornare la nostra lettura di dove siamo e di ciò che siamo, il nostro ambito di riferimento. Restare bloccati in vecchi schemi “retropici” ci allontana dalla possibilità di scorgere le condizioni di possibilità della nostra agentività.

Detto in altre parole, quelle definizioni ci aiutano a ripensarci nel e contro il nuovo scenario che, in modo sempre più drammatico, sta ridefinendo il “diagramma” in cui abbiamo bisogno di collocare le nostre azioni.

C’è un secondo elemento che ci aiuta a descrivere la complessità del rapporto tra noi e l’IA. Non a caso, è lo stesso che era nell’oggetto dell’incontro al Politecnico di Lisbona: la traduzione.

Possiamo affermare che la traduzione è la condizione ontologica di qualunque stato, entità, lingua, cultura. Tutto è sempre e già tradotto da e verso qualcos’altro. Rada Iveković, in uno dei suoi studi sulle politiche della traduzione, On permanent translation (We are being translated), definisce tutti noi come esseri costantemente in-traduzione. Immaginarci come soggetti iniziatori, non tradotti, significa collocarci all’origine della storia, in “uno stato puro, un corpo senza anima”.

L’IA si basa su un continuo processo di codificazione, che rimanda a quello dell’interpretazione e della traduzione. Interpretare le parole e le immagini e tradurle in token, conduce alla produzione di codici che, a loro volta, vengono reinterpretati e ritradotti in parole, per mezzo di una ricodificazione.

Tradurre e interpretare non sono atti neutri di per sé: producono sempre una tensione tra chi e cosa viene tradotto, l’atto di tradurre e il risultato. È una parzialità che diviene ancor più evidente nella produzione da parte dell’IA di qualunque informazione che ci propone. Si colloca sul confine tra dentro e fuori, traduce quel confine, lo rende mobile, spostandolo in una direzione o nell’altra.

Noi siamo a tutti gli effetti parte di quel processo: la traduzione che l’IA opera su di noi e tramite noi agisce in sintonia con quanto detto sopra riguardo ai confini che definiscono la nostra “familiarità” con il mondo. Aggiunge, sottrae, altera elementi, modifica la nostra relazione con il mondo, con una velocità e pervasività impensabile fino a un decennio fa.

Come esseri costantemente in-traduzione, viene eliminata dal processo di soggettivazione che ci forma la possibilità di rivendicare una condizione essenzialista. “La corporalità animata non è solo la condizione della traduzione, ma rende la traduzione necessaria”.

Questa necessità della traduzione non può essere subita. I suoi percorsi, certamente indotti dai costanti e violenti flussi di informazione che ci attraversano, tendono a proporci nuovi confini di ciò che dobbiamo considerare “familiare”. È successo con il Covid, sta succedendo in modo sempre più drammatico con la guerra.

La combinazione di familiarità e traduzione definisce il campo al cui interno i processi di soggettivazione possono e devono farsi antagonisti – come sta già accadendo nel ciclo di lotte che sta attraversando l’Europa e il mondo – imponendo fratture e ricomposizioni dei nostri confini, attraverso l’immaginazione, il sabotaggio, la fuga e la diserzione.

* Stefano Rota è ricercatore indipendente. Gestisce il blog “Transglobal”. Le sue più recenti pubblicazioni collettive sono La fabbrica del soggetto. Ilva 1958-Amazon 2021 (Sensibili alle foglie, 2023), e in G. Ferraro (a cura di), Altraparola. La figura di sé (Efesto Edizioni, 2024). Collabora occasionalmente con riviste online italiane e lusofone.

LEGGI ANCHE QUESTO ARTICOLO DI FRANCO BERARDI BIFO:

Abbiamo perso la possibilità di autonomia della mente

L'articolo L’IA dentro e fuori di noi proviene da Comune-info.