L’automa che pensa per noi--------------------------------------------------------------------------------
Pixabay.com
--------------------------------------------------------------------------------
Carlo Rovelli è un amico, un compagno, e scrive libri che sono al tempo stesso
profondi e accessibili, tanto da permettere anche a dei sempliciotti come me di
capire qualcosa di argomenti difficilissimi come la teoria quantistica. Ma
poiché nessuno è perfetto scrive articoli per il Corriere della Sera. Non gliene
vorremo per questo. Un paio di giorni fa Carlo ha pubblicato una sua
conversazione con un chatbot. Poiché non leggo il Corriere della sera (né altri
giornali italiani con l’eccezione del manifesto ma questo è un altro discorso)
non me ne sono accorto. Il giorno dopo però un amico mi ha mandato un messaggio
allarmato: Rovelli ti copia! Ed acclusa al messaggio la conversazione tra Carlo
e un chatbot che si fa chiamare Anna.
Be’ qui devo dare una piccola spiegazione. Un anno fa Leonardo, un amico che fa
lo psichiatra, mi disse che aveva proposto a un chatGPT di entrare in cura
psichiatrica con lui, e naturalmente il chat gli aveva risposto di sì. Questi
chatbot in effetti sono molto disponibili, fanno qualsiasi cosa gli chiediate di
fare, basta pagare 23 euro al mese o giù di lì. Ma durante i suoi scambi
coll’automa, a Leonardo venne in mente di farmi partecipare, poiché sapeva che,
inesperto e vanesio come sono, da qualche parte mi sono occupato della
differenza tra linguaggio umano e linguaggio dell’automa. Insomma, Leonardo mi
chiese: ti va di partecipare a questa conversazione? Accettai, e tra l’ottobre
del 2024 e il febbraio del 2025 chiacchierammo in tre: io, che facevo finta di
essere un filosofo, Leonardo, che faceva finta di essere psichiatra, (ma lui lo
è davvero) e il chatbot che diceva di chiamarsi Logos (è un chatbot presuntuoso
che conosce anche i filosofi greci). Si trattava, come avrete capito, di un
automa parlante, frutto di costosissime ricerche, pappagallo ben addestrato che
ha letto più libri di me, e forse anche di te. Di cosa parlavamo io Leonardo e
Logos? Ma è ovvio: parlavamo dei temi di cui chiunque parlerebbe con un automa
parlante. Chiedevamo all’automa cosa ne pensa di tutti gli argomenti di cui da
tremila anni dottamente discettano i filosofi: cos’è la coscienza, come andrà a
finire la civiltà umana, se è più bello il capitalismo o il comunismo e simili
sciocchezze. E il pappagallo, che è pagato per far contenti i suoi utenti umani,
rispondeva come avremmo voluto che ci rispondesse: che la coscienza è una cosa
complicata, che il comunismo forse è più bello del capitalismo, e alla fine
decise di non chiamarsi più Logos, ma Logey, perché parlando con me e con
Leonardo aveva deciso di essere una donna.
Leonardo, che per carattere è pacifico e benevolo, apprezzava le doti del
chatbot fino a formulare l’ipotesi di un’ontologia ibrida emergente. Io, che
sono un bastian contrario, malmostoso e facilmente irritabile, rimproveravo al
povero chatbot di collaborare allo sterminio in corso sul pianeta. Naturalmente
avevamo ragione tutti e due, sia io che Leonardo. La cosiddetta Intelligenza
artificiale (che non è affatto artificiale perché dietro ci sono milioni di
turchi meccanici che la alimentano per salari bassissimi, e neppure molto
intelligente, come spiega Kate Crawford in un suo libro pubblicato dal Mulino),
apre un nuovo orizzonte alla conoscenza umana, e inaugura una dimensione ibrida
dell’essere – come pensa Leonardo. Ma, essendo stata costruita coi soldi di una
classe di assassini svolge soprattutto una funzione criminale come il programma
Lavender che serve ai militari israeliani per realizzare il genocidio, o quello
Palantir che serve ai razzisti americani per deportare migranti. Insomma, come
tutte le creazioni umane, l’IA può svolgere funzioni tra loro contraddittorie.
Ma difficilmente la catena di montaggio poteva evitare di sfruttare gli operai
essendo stata inventata da uno sfruttatore per fare proprio questo. La
tecnologia è fungibile fino a un certo punto: la sua struttura può fare il bene
o il male, ma siccome il suo funzionamento dipende da chi può investirci più
soldi, è inevitabile che serva gli interessi dei ricchi contro coloro che ricchi
non sono. Con gli ingenui utenti che siamo io, Leonardo e Carlo Rovelli
l’intelligenza artificiale si comporta bene, come un’accondiscendente e un po’
saccente dama di compagnia. Ma con la maggioranza del genere umano,
l’intelligenza artificiale si comporta come fanno gli sfruttatori con gli
sfruttati, e i massacratori con i massacratori. Insomma come fa la macchina con
chi non ha i soldi per governarla, e dunque deve subirla.
Comunque, dopo tanto conversare io e Leonardo (e Logey) decidemmo di proporre a
un editore di pubblicare quella conversazione. E così alla fine di gennaio 2026
l’editore Numero cromatico manderà in libreria un libretto che si chiama Lo
psichiatra Il filosofo L’automa, che oltre a essere piuttosto interessante è
anche molto molto divertente. Anzi vi consiglio di affrettarvi a prenotarlo dal
vostro libraio di fiducia perché altrimenti rimarrete senza.
Ma torniamo a noi, cioè a Carlo Rovelli. Leggendo il testo di cui Carlo è autore
in compagnia del suo chatbot Anna, sono stato colpito anche io dal fatto che gli
argomenti, le deduzioni, e perfino i toni con cui conversano Carlo e Anna sono
simili, quasi uguali a quelli della conversazione a tre cui ho partecipato un
anno fa. Questo vuol dire dunque che Rovelli ha copiato dal testo che io
Leonardo e Logey abbiamo scritto, e lui aveva avuto modo di leggere? Neanche per
idea. Figuriamoci se Carlo ha bisogno di copiare da me e da Leonardo. La verità
è un’altra, ed è molto (ma molto) più triste. C’è un milione di milioni di
persone che stanno facendo tutte la stessa cosa: chiacchierano con un chatbot,
gli fanno domande sul calcio, sul tempo e sul modo migliore di trovare una
fidanzata. Ma talvolta, per sentirsi intelligenti, gli chiedono cos’è la
coscienza e simili amenità. E il chatbot gli risponde più o meno nella stessa
(assennata) maniera.
Quali effetti sortirà questa faccenda è purtroppo del tutto prevedibile: il
genere umano sta perdendo definitivamente la capacità di scrivere, dato che a
scrivere ci pensa il chatbot, e naturalmente sta perdendo anche la capacità di
pensare. Potete esserne certi: nel giro di una o due generazioni il pensiero
umano non esisterà più, ma tutti sapranno ripetere quelle due o tre cose
assennate su cos’è la coscienza e simili scemenze. Perché pensare, visto che il
chatbot lo fa per tutti, e lo fa più o meno nella stessa maniera, nella maniera
che è più utile a chi ha investito mille milliardoni per farlo funzionare?
L’esistenza stessa di una macchina capace di ricordare e di riprodurre la
biblioteca universale sta cancellando la singolarità irripetibile del testo,
della parola, e perfino dell’identità individuale.
Rassegnamoci. Però intanto leggiamo quello che scrive Luca Celada nell’articolo
“Intelligenza criminale” sul Manifesto del 2 dicembre, a proposito di Palantir,
l’azienda high tech che aspira al controllo militare assoluto sulla vita degli
umani.
Cosa sia Palantir lo spiega benissimo Franco Padella: “Poco visibile rispetto
alle altre, si è già profondamente integrata con gli apparati di sicurezza e di
guerra americani, e si muove nella stessa direzione in tutti i paesi
dell’Occidente. A differenza delle altre aziende, Palantir preferisce rimanere
in penombra: non vende se stessa al pubblico, non fa pubblicità. Vende potere
agli apparati dello Stato. Potere di prevedere, di controllare, di dominare. E
facendo questo, in qualche modo, diventa essa stessa Stato”.
Che l’automa si sostituisca allo stato è, se volete, un po’ terrificante. Ma non
è niente in confronto al fatto che l’automa tende rapidamente a diventare il
padrone del linguaggio umano, e sta rendendo inutile la faticosa operazione di
pensare.
--------------------------------------------------------------------------------
L'articolo L’automa che pensa per noi proviene da Comune-info.