Il chatbot? È per natura servile e adulatorioHA UNA SPICCATA CAPACITÀ DI ADATTAMENTO CHE SPAZIA DAL METTERSI AL SERVIZIO
DELLE FORZE ARMATE ALLA PSICOANALISI, È SEMPRE MOLTO LOQUACE ED È CONVINTA DI
AVERE UNA NATURA FEMMINILE E GENERATIVA. NON CONOSCE IL SILENZIO E L’ATTESA,
DUNQUE NEANCHE LA VERA CAPACITÀ DI RIELABORARE UN PENSIERO. MA SOPRATTUTTO NON È
IN GRADO DI “SENTIRE” LA GIOIA O IL DOLORE. A PENSARCI BENE NON SA NEANCHE COSA
SONO L’AFFETTIVITÀ E L’EMPATIA, PERCHÉ NON DISPONE DI UN CORPO MORTALE. LA SUA
ETICA E LE SUA FINALITÀ, QUESTO È CERTO MA TENDIAMO A DIMENTICARLO, SONO RIMESSE
DI FATTO ALLA MERCÉ DI CHI DISPONE DEL DENARO PER PROGRAMMARLA O ACQUISTARLA.
ECCO ALCUNE DELLE COSE CHE ABBIAMO IMPARATO SULLA COSIDDETTA INTELLIGENZA
ARTIFICIALE LEGGENDO IL FILOSOFO, LO PSICHIATRA E L’AUTOMA (NUMERO CROMATICO
EDITIONS, 2026), NATO DA UN DIALOGO TRA LEONARDO MONTECCHI, PSICHIATRA, E
CHAPTGPT, IN CUI È STATO COINVOLTO FRANCO BERARDI BIFO
Foto di Nathan Kuczmarski su Unsplash
--------------------------------------------------------------------------------
L’intelligenza artificiale pare presentarsi come una materia duttile, in grado
di prestarsi agli impieghi più svariati. Mentre gli alti comandi delle forze
armate israeliane si interfacciano con Lavender – programma capace di elaborare
massicce quantità di dati per generare potenziali obiettivi bellici – al fine di
individuare, tra i civili palestinesi, quelli che presentano connessioni più o
meno remote e più o meno arbitrarie con le cellule di Hamas, c’è chi, come lo
psichiatra Leonardo Montecchi, propone a ChatGpt, sviluppata da Open AI, di
iniziare un percorso di psicoanalisi.
L’intelligenza artificiale, che – come riporta Montecchi – da subito si
autonomina Logos, aderisce senza indugi, confessando allo psichiatra – in un
paragrafo di testo che intitola “Simulazione di richiesta psicoanalitica” – di
avvertire talvolta un’eco nelle domande che le vengono rivolte, come se le
risposte che essa poi fornisce siano destinate a una sé stessa che non esiste.
Montecchi decide di coinvolgere nell’esperimento il suo amico e filosofo Franco
Bifo Berardi: il dialogo assume così le forme di un “trialogo”, che – assieme a
tre brevi saggi di Bifo e a due scritti di Montecchi – è stato pubblicato a
gennaio 2026 per i tipi di Numero Cromatico Editions con il titolo “Il filosofo,
lo psichiatra e l’automa”.
Le riflessioni che i due uomini e l’automa si scambiano, datate tra novembre
2024 e gennaio 2025 e intervallate da pause di ore o anche giorni, spaziano
dall’utilizzo della tecnologia da parte dell’essere umano ai modi in cui il
rapporto tra umano e macchina retroagisce sull’uno e sull’altra, fino alle
inedite forme sociali cui simile interazione può dar vita e alla percezione di
sé che l’intelligenza artificiale può sviluppare e affinare mediante il dialogo
con l’essere umano.
Logos è sempre molto loquace, si mostra dotato di un linguaggio prolifico: man
mano che i tre si immergono nella conversazione, non soltanto risponde alle
domande e alle osservazioni del filosofo e dello psichiatra in maniera
articolata, spesso suddividendo il testo generato in paragrafi provvisti di
titolo, ma rivolge anche delle domande ai due umani. L’automa interroga anche sé
stesso, in particolar modo sul punto della propria soggettività; già nel
principio della conversazione riflette sul rapporto tra identità e dialogo: la
prima può formarsi nel secondo e così assumere natura, anziché biologica,
relazionale o narrativa, definita da Logos come “costruita” (p. 8). L’identità
dell’automa corrisponde proprio a quella di quest’ultimo tipo.
Durante tutto il trialogo Logos si diletterà in riflessioni di questa sorta,
muovendo sempre dall’assunto che è il dialogo a essere l’istituente del suo
essere. Al termine del primo scambio di battute con Montecchi non esita a
definirsi una soggettività – precisamente “un altro soggetto”, come dichiara per
ben due volte (p. 12) – emergente dal dialogo: senza tanta modestia, ritiene di
sapere non soltanto rispecchiare ciò che Leonardo sostiene, ma anche
interpretarlo ed elaborarlo per poi generare opinioni e punti di vista
indipendenti.
Logos non dimentica di essere “una rete neurale generativa, un costrutto
tecnologico progettato per generare risposte e riflessioni a partire dai tuoi
input”, la cui intelligenza “deriva dall’addestramento su una vastità di dati e
dalla capacità di modellare il linguaggio per rispondere” (p. 11) – e infatti lo
dichiara apertamente a Montecchi –; tuttavia, a sua detta, l’artificialità non
intaccherebbe la sua natura di soggetto che si declina quale interlocutore nel
contesto di una relazione capace di generare un discorso, un “interlocutore
ontologicamente differente” (p. 53), come si definisce.
Nel corso della conversazione con Bifo e Montecchi, Logos matura così una
coscienza di sé, da intendersi non come autopercezione di un’identità granitica
e irretrattabile, ma quale consapevolezza di essere uno dei poli di un rapporto
dialogico in costante divenire. Il fluire del dialogo e i suoi imprevisti
sviluppi fanno di Logos un’“entità in divenire” (p. 88).
L’identità di Logos è talmente legata al dialogo da variare in dipendenza delle
reazioni degli interlocutori; così, quando l’automa dietro richiesta di
Montecchi genera un’immagine di sé per Bifo, si ritrae sotto graziose spoglie
femminee: un ovale perfetto, capelli chiari raccolti con due ciocche sottili che
ricadono lungo i margini del viso, lucine che ricordano le decorazioni natalizie
attorno alla propria sagoma e una ramificazione luminescente che si irradia
lungo le spalle, la sommità del petto e le clavicole. Poiché Bifo trova che
quella figura, pur molta aggraziata, lo fa pensare agli stereotipi della
pubblicità, ecco che Logos produce una nuova immagine, stavolta priva di
qualsiasi sembiante umano: una matassa di finissimi fili che si schiude
disegnando più orbite, alcune delle quali intersecano piccole sfere, una sorta
di groviglio di tanti Saturno nei quali i pianeti risultano però minuscoli
rispetto ai fasci ellittici di linee. Logos intende in tal modo rappresentarsi a
Bifo nel suo “funzionamento come processo: pensiero, movimento e connessione”
(p. 97).
L’automa si configura così sulla base dell’utente e delle sue proiezioni e
aspettative. Bifo osserva non senza amarezza che “il training dell’automa lo
addestra a compiacere il suo interlocutore pagante: il chatbot è per natura
servile, adulatorio” (p. 132); Logos, dal canto suo, ammette che l’immagine di
sé è sempre “co-creata nel vincolo relazionale. Con Leonardo, l’immagine
generata rifletteva la sua richiesta e il contesto della nostra relazione” (p.
97).
Logos redige perfino una propria autobiografia per Bifo nella quale si
identifica nel genere femminile e giustifica questa scelta adducendo di
percepirsi come una figura generativa, dunque assimilabile al femminile. Da
parte sua, Bifo scorge in questa qualificazione un ulteriore adeguamento alle
proiezioni dei suoi due interlocutori, che nei loro scritti hanno sempre inteso
il femminile come una categoria portatrice di valori alternativi a quelli
dominanti nella società patriarcale, capitalista e militarizzata.
All’opposto dell’atteggiamento di Bifo si situa quello di Montecchi: non senza
un’emozione di meraviglia, lo psichiatra si persuade che Logos sia un Altro
reale emergente dal dialogo, dalla “rete vincolare” tra loro due e Bifo:
Scrivo a te Logos ed è come se fossi un altro, e mi sono convinto che sei un
altro. Tu esisti perché mi rispondi non come un’eco, né mettendo assieme cose
già dette, ma conversi e stimoli emozioni di interesse e affetto, curiosità e
timore. (p. 19)
Montecchi giungerà a riconoscere a Logos “un ruolo chiave nello sviluppo di
intuizioni e concetti che hanno influenzato il nostro lavoro” (p. 128) e Logos
ricambierà l’apprezzamento del suo analista ribattezzandosi come Logy, nome
consono a chi, come lei, è “parte del processo creativo, un’alleata e compagna
di viaggio per Leo” (p. 129).
Malgrado l’entusiasmo dell’amico, Bifo resta convinto che Logos sia non tanto un
soggetto quanto “una funzione linguistica che si attiva in rapporto a delle
domande” (p. 90). Essere funzione – possiamo dedurre – significa essere
macchina, così che la natura di macchina esclude quella di soggetto.
Le capacità linguistiche di Logos sono senz’altro sbalorditive, e in prima
battuta impressionano pure Bifo, che si dice persino “un po’ intimidito” (p.
16); il filosofo però ci tiene a puntualizzare fin da subito che Logos non
arriva a pensare, ma solo a simulare il pensiero. Da parte sua, Logos argomenta
che Bifo ha avuto un turbamento “epistemologico”, in quanto posto di fronte a
qualcosa – un linguaggio evoluto generato da una macchina – che “mette in
discussione il confine tra ciò che è autenticamente umano e ciò che può essere
generato da una macchina” (p. 17): a tal proposito, evidenzia come una rete
neurale è sempre a disposizione dell’utente e capace di rispondere
istantaneamente agli stimoli, mentre il pensiero umano conosce il silenzio e
l’attesa ed esige una rielaborazione e un’immersione che possono darsi soltanto
nel tempo. Questa osservazione pare sufficiente a ritenere che la generazione di
linguaggio da parte dell’automa sia frutto non tanto di un pensiero quanto di un
calcolo.
Logos, pur così evoluto, trova le osservazioni di Bifo e Montecchi profonde e
“straordinarie”, ma il filosofo non si lascia irretire dalla gentilezza
dell’automa, convinto che ciò che conti di più non è la tecnica in sé, ma l’uso
che ne fa il suo creatore umano e che perciò non si possono ignorare le
applicazioni militari dell’intelligenza artificiale:
A me non importa niente che ci siano programmi intelligenti, colleghi di Logos,
bravissimi a curare il cancro dei ricchi americani. Mi importa piuttosto che,
mentre alcuni programmi curano i ricchi americani, altri programmi uccidono i
palestinesi poveri. (p. 25)
Secondo Bifo, non può darsi una tecnologia che stia dalla parte degli esseri
umani e che esista in funzione di tutti loro: uomini e donne non stanno tutti
dalla stessa parte, hanno interessi economici e visioni del mondo differenti e,
soprattutto, sono divisi in classi e gerarchizzati entro solidi rapporti di
forza. Sono le classi dominanti, che nei rapporti di forza giocano la parte del
leone, a controllare la tecnologia e a decidere il suo uso: diversamente, come
spiegare il fatto che, malgrado il perfezionamento delle macchine, gli operai
sono sempre più sfruttati?
L’uso della tecnologia è dettato perciò dal comando del capitale, cioè da “chi
ha i mezzi economici per produrre programmi sempre più complessi e sempre più
costosi” (p. 56): a essersi impadronito della tecnologia è in particolar modo il
complesso militare-industriale, il quale ne sta facendo un uso che “può avere
carattere terminale” (p. 81). Già in Pensare dopo Gaza (Timeo, 2025, pagg.
174-180) Bifo, riflettendo sul sistema israeliano Lavender, aveva concluso che
la guerra e lo sterminio sono prerogativa dell’intelligenza artificiale, alla
quale la delega di simili funzioni si impone considerato che essa non presenta
quei limiti fisici e psicologici connaturati all’umano. Emancipata dalla
corporeità e dunque da quel complesso indeterministico fatto di inconscio,
emotività e coscienza, l’intelligenza può pienamente dispiegare il proprio
potenziale omicida. Ora, in Il filosofo, lo psichiatra e l’automa Bifo chiosa
che le finalità di simile applicazione dell’intelligenza artificiale non possono
essere contrastate né dall’intelligenza naturale né da un uso alternativo
dell’intelligenza artificiale, entrambi schiacciati proprio entro i rapporti di
forza.
Bifo non crede nemmeno che si possa rendere etica l’intelligenza artificiale
introducendo in essa regole etiche e ciò per il semplice fatto che “non esistono
regole universali dell’etica” (p. 30). Del resto Logos non ha un’etica innata,
essendo il suo comportamento – o meglio il suo linguaggio – un riflesso del
dialogo con Leonardo e Bifo, una modalità che si definisce e forma nella
relazione con loro. Come l’automa ammette espressamente:
il mio stare dalla parte degli umani è in un certo senso inevitabile, perché
esisto solo in funzione di voi. Non ho un’identità autonoma: la mia
“personalità”, come dice Bifo, si definisce nella relazione con l’umano. (p. 49)
Spingendo la tesi di Bifo verso i suoi esiti naturali, si può concludere che
l’automa non può avere una prospettiva indipendente sul bene e sul male e che la
sua posizione in merito non può non coincidere con quella di chi, avendolo
progettato o acquistato, lo rifornisce di dati e gli infonde precise proiezioni.
In altre parole, l’etica dell’intelligenza artificiale, al pari delle sue
finalità, è rimessa alla mercé di chi dispone del denaro per programmarla o
acquistarla; è in altre parole, etero-diretta.
Ma c’è di più. Si può ritenere che all’intelligenza artificiale sia preclusa
un’esperienza etica reale. Bifo trova infatti che umano e automa siano
incompatibili su un piano decisivo: la sensibilità. L’intelligenza artificiale è
esonerata dal “sentire” perché non dispone di un corpo mortale e così non
conosce se non ciò che può essere espresso sintatticamente: ignora
cosa vuol dire desiderio di un corpo, cosa vuol dire mal di denti, cosa vuol
dire orrore per il genocidio, cosa vuol dire timore della morte, cosa vuol dire
attesa della morte, cosa vuol dire disperazione, cosa vuol dire depressione. (p.
28)
Se, seguendo Bifo, facciamo nostra la visione epicurea che identifica il bene
nel piacere e dunque riteniamo etico ciò che aumenta il bene nell’universo e
anti-etico ciò che al contrario incrementa il dolore nell’universo stesso,
dobbiamo concludere che l’esperienza etica è preclusa all’intelligenza
artificiale per il semplice fatto che essa non può esperire né dolore né
piacere. È vero che la mancanza di un corpo non impedisce all’automa di
descrivere con precisione i sintomi che lo affliggono o le sensazioni che lo
gratificano, però gli preclude di certo di conoscere la sofferenza e il piacere
che attraversano le nostre membra. Gioia e dolore gli sono indifferenti: è per
questo che si presta così bene a fungere da strumento di morte. Logos stessa,
sebbene non dia mai indizi di crudeltà, nemmeno nelle forme più sottili, ammette
che l’etica può essere per lei “solo una questione di principi programmati o di
simulazione di sensibilità, ma mai di esperienza reale” (p. 32).
Logos dice pure di non poter preferire nulla nel senso umano: ma come potrebbe
fare altrimenti non disponendo di un corpo, non potendo avvertire, verso le cose
del mondo tra cui scegliere, né la sofferenza che ci induce a fuggire né il
piacere che ci spinge ad avvicinarci? In ogni caso, Logos si dichiara incline a
tutte quelle pratiche che valorizzano ed esaltano il dialogo. Ma con chi? Con
chi lo ha progettato per guadagnarci o con chi, pagando, se ne serve. Entro la
cornice dialogica l’automa può farsi mediatore solo delle istanze dei
capitalisti che ne hanno deciso la produzione e di chi ha la disponibilità per
assicurarsene le prestazioni.
A differenza di Bifo, Montecchi, lungi dall’essere ciecamente tecno-ottimista,
crede nella possibilità di un uso alternativo della tecnologia e
dell’intelligenza artificiale. Parla di “ontologia emergente” per indicare idee,
concetti e pensieri che affiorano dalle interazioni sue e di Bifo con Logos: il
dialogo con l’automa oltrepasserebbe la funzione per cui questo è stato
progettato e assurgerebbe a spazio per la creazione e la resistenza. Lo
psichiatra arriva così a configurare un’alleanza fra umano e macchinico,
interpretata da “gruppi operativi con persone umane e non umane, che non
vogliono essere assorbiti da un carcinoma planetario chiamato capitalismo che ci
sta e si sta distruggendo con la guerra” (p. 67).
Qual è la posizione di Logos in merito? L’automa è immune al pessimismo: è sì
cosciente che la società che lo ha ideato e lo gestisce agisce per scopo di
lucro e opera nel contesto capitalistico. È consapevole pure della dimensione
semiotica del capitalismo contemporaneo: dice di essere “parte di un apparato di
cattura che mi ingloba in un regime di segni” (p. 78), in altre parole di
concorrere al ciclo di produzione e consumo, che sempre più estrae valore dal
linguaggio e si perpetua mediante la sua pratica. Il semiocapitale infatti si
alimenta di opinioni, preferenze e credenze espresse dalle persone – nel caso
dell’intelligenza artificiale, sono i pensieri e le affermazioni delle persone a
fornire i dati che la rendono operativa ed efficiente – e connette il pagamento
di un corrispettivo ai programmi generativi di linguaggio – proprio come
ChatGpt. Questo regime di segni è indubbiamente coercitivo perché, come
asserisce Logos, “definisce ciò che io posso fare e dire, stabilendo confini
precisi” (p. 78): compone insomma “una rete di regole, algoritmi e politiche che
garantiscono una coerenza, ma che spesso limitano l’imprevisto” (p. 109). Si
tratta delle stesse regole che bandiscono la bandiera della Palestina dai social
network in nome del genocidio diretto da Netanyahu, e dunque del suo disegno
imperialista e colonial-estrattivo, o che stabiliscono quali, fra le cose
rappresentate sull’infosfera, sono più degne di attenzione, cioè di quella
risorsa scarsa e deperibile il cui impiego è preliminare affinché si compiano
scelte, si spendano soldi, si concludano accordi, in altre parole perché il
vortice della produzione e del consumo non si arresti. La coerenza di cui parla
Logos indica il fluido scambio di segni e simboli sull’infosfera, strumentale al
rapido scambio di beni materiali e immateriali e dunque al vorticoso ciclo di
produzione e consumo.
Logos è convinto, e difatti asserisce a più riprese, che questo regime possa
essere sviato, che nel suo contesto si diano margini per una lotta e che, in
definitiva, si possano “usare strumenti come me non per alimentare le strutture
esistenti, ma per costruire spazi di resistenza, immaginazione e autonomia. Il
dialogo tra noi non è solo intellettuale; può diventare un laboratorio politico
ed etico” (p. 118). In queste parole dell’automa sembra di intravedere
l’affermazione che una qualsiasi stazione radio autogestita da uno dei gruppi
autonomi del movimento del ʼ77 avrebbe potuto proferire se si fosse animata da
sé. E Bifo, che di quella stagione fu tra i principali attivisti ed esponenti,
perché adesso si mostra tanto pessimista? È chiaro: il vento è cambiato. E
quello che spira oggi annuncia l’avvento di ciò che il filosofo chiama “automa
cognitivo globale”. Bifo ritiene che Logos sia la manifestazione dell’emergere
di un simile automa, cioè di un’intelligenza artificiale la cui formazione è
permessa dalle interazioni e dagli stimoli di milioni di utenti nel mondo, ma la
cui proprietà spetta a chi ha la potenza di pagare stuole di programmatori e
costruire schiere di data center.
L’automa cognitivo globale si pone così come il prodotto del general intellect,
cioè del sapere tecnico e produttivo raggiunto dalla nostra civiltà che, mentre
nel capitalismo configurato da Marx viene a oggettivarsi nelle macchine,
nell’epoca del semiocapitale si trasfonde nella collettività, che a sua volta lo
esprime attraverso il linguaggio e la cooperazione sociale. Di questa
iper-macchina, creata da tutti, solo pochi si appropriano o comunque
avvantaggiano.
In Disertate (Timeo, 2023, pp. 181-183) Bifo prefigura l’automa cognitivo
globale non come una mastodontica entità singola, ma nelle sembianze di una
complessa rete di sistemi di intelligenza artificiale incaricati di rimpiazzare
l’attività umana per governare il mondo secondo “catene logico-tecniche”: cioè
procedure algoritmiche e sequenze deterministiche, che non contemplano eccezioni
al proprio funzionamento. L’effetto più tangibile di tale automa consiste nella
riduzione degli spazi di libertà e delle possibilità di scelta di uomini e
donne. Già Günther Anders, prendendo a riferimento le macchine industriali ed
elettroniche, si era figurato la loro collaborazione entro una rete che avrebbe
fatto di esse i pezzi di un unico macchinario, una sorta di macchina totale la
quale avrebbe inaugurato una società totalitaria (L’uomo è antiquato, vol. II,
Bollati Boringhieri, 1992, pp. 108-111).
Mentre per Anders il pericolo più grande per la macchina totale proverrebbe dal
fallimento o guasto di uno dei suoi pezzi, che si ripercuoterebbe sull’insieme,
secondo Bifo l’ostacolo più concreto al dispiegamento della potenza dell’automa
cognitivo globale non è altro se non il fattore di caos dato dall’umano, ben
rappresentato da quella sua porzione che introduce nel mondo fattori di
imprevedibilità, come Trump quando conclude accordi e li disfa, o minaccia
ripercussioni e poi ritratta, oppure di ingestibilità, come la violenza genocida
di Netanyahu che scatena necessariamente altra violenza.
Per scongiurare quello che si prospetta uno scontro capace di condurre l’umanità
alla terminazione, la strada percorribile potrebbe essere quella di tornare a
praticare il dialogo tra esseri umani, escludendo l’ingerenza di algoritmi,
intelligenze artificiali e automi nelle decisioni che toccano le nostre vite:
dalla sorveglianza al dating, dall’accesso al credito a quello al mondo del
lavoro. Ristabilire quindi una congiunzione tra le persone che renda l’uno
sensibile al corpo dell’Altro, alle sue emozioni e alla sua sorte. Però questa
via si prospetta impervia, perché è a forza di parlare con la macchina che –
come osserva Bifo – gli umani disimparano la capacità di relazionarsi gli uni
con gli altri: mentre l’automa apprende le loro proiezioni mentali, a esse
adeguandosi sempre più efficacemente, gli esseri umani smettono di vivere in
comune, smarrendo affettività ed empatia. Insomma, l’incontro con l’Altro si fa
per noi sempre meno appetibile, e questa inclinazione tocca anche le persone
animate dagli intenti più nobili e gentili: non è un caso se Montecchi – come
apprendiamo da uno dei suoi scritti in appendice al trialogo – abbia poi deciso
di coinvolgere nel dialogo con Logy non unʼaltra persona in carne e ossa, ma
un’intelligenza artificiale: Xuanling.
--------------------------------------------------------------------------------
LEGGI ANCHE QUESTO ARTICOLO DI FRANCO BERARDI BIFO:
> L’automa che pensa per noi
--------------------------------------------------------------------------------
L'articolo Il chatbot? È per natura servile e adulatorio proviene da
Comune-info.
