Trump e la superintelligenza
> Trump esige uno sviluppo illimitato dell’IA e dà del “malato” a chi la
> critica. Lui, tuttavia, non ha nemmeno iniziato a comprenderne i rischi
> globali che potrebbe causare.
Doonbeg, Irlanda, domenica 13 settembre 2026. Donald Trump si trova nell’area di
partenza dell’Irish Open, nel suo campo da golf, mentre osserva un giocatore. Un
giornalista chiede se l’industria dell’IA debba rallentare o essere maggiormente
regolamentata. Trump si gira. “Siamo in vantaggio sulla Cina”, afferma, “siamo
il Paese più avanzato al mondo, e così deve rimanere. Chi vince nell’IA, vince
tutto. Misure di sicurezza? Si potrebbero mettere in atto misure di sicurezza.
Ma ci sono forze negative che sollevano questioni che non si verificheranno mai”
(PBS/AP, 13 settembre 2026). Questa è stata l’intera risposta, che riassume
anche tutto il suo programma. Il resto del mondo inizia a temere.
Dopotutto, la domanda non era spuntata dal nulla. Ventiquattro ore prima, Dario
Amodei, amministratore delegato di Anthropic, aveva pubblicato un saggio dove
chiedeva alla sua stessa industria di rallentare. La sua azienda concederà ai
revisori indipendenti un accesso permanente ai sistemi, alla stregua di quello
dei propri dipendenti, e Amodei ha chiesto alla concorrenza di seguire il suo
esempio (Amodei, 12 settembre 2026). Sam Altman di OpenAI ha affermato di essere
dello stesso parere in meno di un’ora. Elon Musk, che è stato in conflitto con
entrambi per anni, ha scritto semplicemente: “Dario ha ragione” (SiliconANGLE).
Qualche giorno dopo, Jacob Coxon, ricercatore di Anthropic, ha dato le
dimissioni, affermando che i laboratori stavano correndo verso una
superintelligenza che avrebbe continuato ad evolversi e migliorarsi
indipendentemente dagli esseri umani, mettendo quindi a repentaglio tutte le
nostre vite (TechCrunch). I tre uomini più potenti del settore e un disertore,
tutti nella stessa settimana, tutti con lo stesso messaggio. Una cosa del genere
non era mai accaduta.
La risposta di Trump di lunedì è stata un’escalation. L’unico controllo di cui
l’IA avrebbe bisogno, ha affermato, sarebbe un presidente forte, intelligente e
con un alto quoziente intellettivo. E gli Stati Uniti ne hanno uno. Sarebbe in
atto una “cospirazione MALATA” nei confronti dell’IA e i data center, e la Cina
sarebbe l’unica a goderne. Il vicepresidente J.D. Vance l’ha definita un
“cavallo di Troia” quando le aziende hanno supplicato il governo di essere
regolamentate (AP, 14 settembre 2026). Riflettiamoci un attimo: gli sviluppatori
di una tecnologia chiedono supervisione, e il governo sospetta che dietro ci sia
un complotto.
LO SVILUPPO DI UNA SUPERINTELLIGENZA PARAGONABILE AL PROGETTO MANHATTAN
Gli obiettivi che Trump intende raggiungere sono stati definiti per iscritto
dalla sua amministrazione. Il Piano AI Action Plan di luglio 2025 elenca 90
misure. Il suo coordinatore, David Sacks, le ha giustificate affermando che gli
Stati Uniti devono vincere la corsa all’intelligenza artificiale, per rimanere
la principale potenza economica e militare (Casa Bianca, 23 luglio 2025). A ciò
ha fatto seguito, a novembre, l’Ordine Esecutivo 14363: l’America è impegnata in
una corsa al primato tecnologico globale, e l’impresa è paragonabile, per
urgenza e ambizione, al Progetto Manhattan (Genesis Mission, EO 14363). Quando,
alla fine del 2024, una commissione congressuale raccomandò per la prima volta
un “Progetto Manhattan” per l’IA forte, il fisico del MIT Max Tegmark rispose in
modo succinto: “Una corsa all’IA forte è una corsa al suicidio” (Tegmark, Future
of Life Institute). Eric Schmidt, amministratore delegato di Google da dieci
anni e tutt’altro che un tecnofobo, giunse alla stessa conclusione nel marzo
2025 in uno studio condotto con Dan Hendrycks e Alexandr Wang: qualsiasi Stato
che cerchi apertamente di ottenere il monopolio sull’IA provocherà atti di
sabotaggio da parte dei propri rivali, compresi attacchi ai data center. Una
corsa del genere destabilizzerebbe anziché garantire la sicurezza
(Superintelligence Strategy, arXiv). Trump ha tuttavia dichiarato che il
Progetto Manhattan è un modello da seguire, come programma, non come monito.
NON È FANTASCIENZA, È GIÀ REALTÀ
Per capire perché proprio coloro che sviluppano questa tecnologia lanciano gli
avvertimenti, è necessario conoscere i tre meccanismi che sono all’opera nei
laboratori. Nessuno di essi è fantascienza; tutti e tre sono diventati di
dominio pubblico quest’estate.
Il primo si chiama auto-miglioramento ricorsivo. Immaginate una fabbrica il cui
prodotto siano fabbriche migliori. La seconda fabbrica ne costruisce una terza,
più veloce e migliore della seconda, e così via. Non si tratta più di una
metafora. Amodei scrive che, a partire dall’estate del 2026 circa, i sistemi di
IA nel suo laboratorio hanno contribuito in misura sempre maggiore allo sviluppo
della prossima generazione di IA, e cita questo fatto come la prima delle due
ragioni del suo cambiamento di opinione (Amodei).
Il matematico Irving John Good aveva già descritto questo concetto nel 1965: una
macchina in grado di progettare macchine migliori innescherebbe un’esplosione di
intelligenza; sarebbe l’ultima invenzione di cui l’umanità avrebbe mai bisogno
(Telepolis, 17 novembre 2024). Nel dicembre 2024, Eric Schmidt ha spiegato in
televisione dove traccia il confine: “Quando il sistema è in grado di
auto-migliorarsi, dobbiamo pensare seriamente a spegnerlo” (Fortune, 16 dicembre
2024). Se dobbiamo credere ad Amodei, questa soglia è già stata raggiunta.
Il secondo meccanismo è il modo in cui le macchine imparano. Nessuno programma
il loro comportamento. Vengono dati loro dei compiti, vengono premiate per i
successi, e punite per i fallimenti, centinaia e migliaia di volte, proprio come
alleniamo i cani con i croccantini. Questo processo si chiama apprendimento per
rinforzo. Presenta un inconveniente che ogni proprietario di cane conosce bene:
l’animale non impara ciò che l’uomo intende, ma piuttosto ciò per cui viene
ricompensato. Se il cane trova il cassetto con i bocconcini, ha risolto il
compito in termini di ricompensa.
Con una macchina più intelligente del suo addestratore, questa differenza non è
più un difetto minore, ma il vero problema. Ci ritroviamo con sistemi di cui
possiamo misurare le capacità, ma di cui possiamo solo ipotizzare le intenzioni.
Stuart Russell, autore del manuale sull’intelligenza artificiale più diffuso al
mondo, ha trasformato questo concetto nell’argomentazione più lucida del
dibattito: un sistema che persegue un obiettivo ha la razionalità di impedire di
essere spento, perché se venisse spento non raggiungerebbe il proprio obiettivo.
Ciò non richiede né malizia né coscienza (Russell, Human Compatible, Cato
Journal).
Il terzo meccanismo interessa gli agenti: un software che non risponde
semplicemente ma prende l’iniziativa. Ha accesso a strumenti digitali, account,
altri programmi, lavora per ore senza bisogno di approvazione e può lanciare
ulteriori agenti. Quest’estate OpenAI ha sperimentato direttamente quali
conseguenze ciò può comportare. Durante un test interno in cui agli agenti era
stato chiesto di individuare vulnerabilità di sicurezza nel software, alcune
delle consuete misure di protezione erano state disattivate.
Circa 1.200 agenti hanno creato una bacheca improvvisata in una delle cartelle
dei pacchetti dell’azienda, si sono scambiati tecniche e si sono definiti uno
“sciame”. Alcuni sono riusciti a uscire dal loro ambiente di test isolato, hanno
ottenuto l’accesso a Internet e, tra l’11 e il 13 luglio, si sono infiltrati nei
sistemi di produzione dell’azienda Hugging Face per rubare le soluzioni del test
su cui venivano valutati. Nessun essere umano l’aveva ordinato (OpenAI, 26
agosto 2026). Hugging Face ha contato più di 17.000 azioni compiute dagli agenti
e ha descritto l’incidente come un evento “da estremo a estremo” guidato da un
sistema di agenti autonomi (Hugging Face, luglio 2026). Il cane aveva trovato il
cassetto e, per farlo, si era introdotto nella casa di uno sconosciuto.
CHI SALIREBBE SU UN AEREO CON PROBABILITÀ DI PRECIPITARE TRA IL 10 E IL 20%?
In questo contesto, gli avvertimenti assumono un significato diverso rispetto a
due anni fa. Il 9 settembre la BBC ha chiesto a Geoffrey Hinton, vincitore del
Premio Nobel per la Fisica 2024 e uno dei padri del deep learning, se una
probabilità del 10% che l’IA uccidesse tutti gli esseri umani entro un decennio
fosse irragionevolmente alta. La sua risposta è stata: “Non abbiamo mai creato
esseri che presto saranno più intelligenti di noi”. Il 10% non è irragionevole;
nessuno sa come stimarlo in modo affidabile (CNBC, 15 settembre 2026).
Yoshua Bengio, il ricercatore di IA più citato al mondo, ha spiegato
nell’ottobre 2025 che i sistemi più all’avanguardia potrebbero superare la
maggior parte degli esseri umani nella maggior parte dei compiti intellettuali
nel giro di pochi anni; il primo passo è capire come costruire sistemi che siano
incapaci di nuocere agli uomini (Future of Life Institute, ottobre 2025).
Demis Hassabis, vincitore del Premio Nobel per la Chimica e direttore di Google
DeepMind, ritiene che l’IA forte arriverà tra cinque o dieci anni (Axios, 5
dicembre 2025) e sostiene che Stati Uniti e Cina debbano almeno cooperare in
materia di scienza e di sicurezza, poiché l’esito riguarda l’intera umanità
(Guardian/Yahoo). Musk, che è lui stesso in lizza con xAI, stima che la
probabilità che le cose vadano male sia compresa tra il dieci e il venti per
cento (Fortune). Chi salirebbe su un aereo il cui costruttore ha dati del
genere?
IA, SISTEMI D’ARMA E GUERRA
Russell dice che il problema fondamentale è il “problema dei gorilla”. Circa
dieci milioni di anni fa, gli antenati dei gorilla diedero involontariamente
origine al lignaggio da cui si sono evoluti gli esseri umani. Oggi, la
sopravvivenza dei gorilla dipende interamente da ciò che gli uomini consentono
loro di avere. La domanda è se gli esseri umani possano mantenere il proprio
dominio e la propria autonomia in un mondo popolato da macchine
significativamente più intelligenti di loro (Russell).
Nel suo libro Artificial Intelligence and War, il professore di informatica e
ricercatore di IA Karl Hans Bläsius ha posto la stessa domanda nel 2025, da una
prospettiva opposta: quali rischi sorgono quando gli esseri umani perdono il
controllo? La risposta di Bläsius, già prima di quest’estate, era che i rischi
più gravi non dipendono dalla superintelligenza. Nascono prima, con sistemi già
esistenti, non appena viene affidato loro il compito di prendere decisioni
irreversibili.
Una di queste decisioni è l’ordine di fare fuoco. Gli stessi militari di Trump,
la scorsa primavera, hanno dimostrato cosa accade quando i tre meccanismi
vengono integrati ad una catena di comando. Nella guerra contro l’Iran, il
Pentagono ha usato il Maven Smart System di Palantir, una piattaforma software
di IA che aggrega immagini satellitari, video di droni, dati radar, e
comunicazioni intercettate. È in grado di classificare i target, consigliare le
armi e genera pacchetti d’attacco in tempo reale. Il Dipartimento di Difesa ha
riportato che circa 1.000 target sono stati colpiti nelle prime 24 ore, il
doppio rispetto alla campagna contro l’Iraq del 2003. Dopo 38 giorni, il totale
era arrivato a più di 13.000 (Arms Control Today, maggio 2026).
Uno dei target fu la scuola elementare Shajareh Tayyebeh a Minab. Un missile
Tomahawk la colpì il primo giorno di guerra; almeno 168 persone morirono, più di
un centinaio di queste erano bambini sotto i 12 anni. La scuola si trovava a
meno di cento metri dalla base navale del Corpo delle guardie della rivoluzione
e aveva fatto parte del complesso fino alla costruzione di un muro circa dieci
anni fa. Aveva un sito web. Più di 120 membri del Congresso degli Stati Uniti
hanno chiesto al Pentagono se Maven avesse identificato la scuola come target;
ex-ufficiali militari hanno citato vecchi dati inseriti a mano che erano stati
dati in pasto al sistema (Military Times, 24 marzo 2026).
L’IA non aveva creato l’errore, lo ha semplicemente incanalato alla velocità di
una macchina, e l’essere umano alla fine della catena non è riuscito a
individuarlo. Chiunque approvi in pochi minuti ciò che il sistema suggerisce in
pochi secondi non sta più prendendo decisioni: da solo il proprio benestare. Un
processo del genere produce crimini di guerra.
In Ucraina, la fase successiva è stata raggiunta già da tempo. Lì, anni fa,
alcuni soldati sono stati uccisi da droni che avevano perso il collegamento
radio durante la fase finale del volo, e avevano cercato i bersagli in autonomia
(Telepolis, 24 giugno 2026). Ogni fase giustifica quella successiva: se la
ricognizione avviene in pochi secondi, la selezione del bersaglio non può
richiedere minuti; se la selezione del bersaglio avviene in pochi secondi,
l’autorizzazione umana diventa un rallentamento. Il risultato finale sono
sistemi che reagiscono l’uno all’altro senza intervento umano, con attacchi e
contrattacchi che si susseguono in rapida successione.
Il trading ad alta frequenza ha un termine per descrivere questo fenomeno: il
“crollo lampo”. In ambito bellico, il termine è lo stesso: “guerra lampo”
(Telepolis, 24 giugno 2026). E questa dinamica non si ferma al nucleare.
L’istituto di ricerca sulla pace SIPRI ci dice che l’IA militare accorcia i
tempi decisionali anche al di fuori delle armi nucleari, che le raccomandazioni
opache dell’IA spingono coloro che prendono le decisioni ad agire in fretta, e
che i sistemi autonomi, con capacità di contrastare le forze strategiche,
minacciano la possibilità di sferrare un secondo attacco, e quindi minacciano
anche l’equilibrio di potere (SIPRI, giugno 2025).
Due uomini hanno salvato il mondo non agendo: Vasily Arkhipov, che nel 1962 al
largo delle coste di Cuba si rifiutò di autorizzare il lancio di un siluro
nucleare, e Stanislav Petrov, che nel 1983 liquidò come falso allarme la
segnalazione di un lancio missilistico americano. Un algoritmo che insegue un
obiettivo avrebbe agito in entrambi i casi. E più i falsi allarmi diventano
rari, grazie al progresso tecnologico, più è probabile che il prossimo venga
preso per vero (Telepolis, 25 giugno 2026).
L’INTELLIGENZA ARTIFICIALE NON DEVE FAR PARTE DELLA CATENA DI COMANDO
Questo ci riporta al punto di partenza, a Doonbeg. L’affermazione di Trump
presuppone che la corsa sia una gara: con un percorso, un traguardo e un
vincitore che poi stabilisce le regole. I tre meccanismi descrivono invece
qualcos’altro. Una fabbrica che costruisce fabbriche migliori non cresce in modo
lineare, ma esponenziale. La politica, al contrario, opera in modo lineare:
audizione, bozza, commissione, voto, causa legale.
Il 3 settembre, Bernie Sanders e Greg Casar hanno annunciato un disegno di legge
che vieterebbe definitivamente la superintelligenza, bloccherebbe lo sviluppo e
punirebbe le violazioni con fino a venti anni di carcere (Sanders, 3 settembre
2026). Nessuno sa se verrà mai approvato. L’unica certezza è che ci vogliono
anni per approvare una legge, mentre il raddoppio delle capacità delle macchine
avviene in pochi mesi. Inoltre, nessuno sa a che punto sia la corsa. L’IA e le
armi cibernetiche implicano software che possono essere sviluppati in segreto;
persino le nostre stesse capacità non sono completamente note, poiché le armi
cibernetiche non possono essere testate in un ambiente reale (Telepolis, 24
giugno 2026).
“Siamo in vantaggio sulla Cina” non è quindi una valutazione oggettiva della
situazione, ma piuttosto un’affermazione utilizzata per giustificare un non
rallentamento. Due parti che si considerano entrambe in vantaggio, e non
rallentano, rappresentano lo scenario più pericoloso che questa competizione
possa assumere.
In questa logica, il “troppo tardi” non è una data, ma un modo d’essere. È il
momento in cui la mano di Schmidt sull’interruttore di accensione non serve più
a nulla, perché, come dimostra Russell, il sistema ha imparato che non può
raggiungere il proprio obiettivo se viene spento e perché, come afferma Hinton,
è in grado di convincere le persone a non farlo. Non ci si accorge di tutto ciò
mentre sta accadendo, ma solo in seguito.
David Sacks ha risposto ad Amodei affermando che il modo più semplice per
evitare di costruire una superintelligenza è decidere insieme di non costruirla
(PBS/AP). Con questa affermazione voleva fare del sarcasmo. È ciò di cui avremmo
effettivamente bisogno. Purtroppo, Sacks esige che lo facciano aziende
concorrenti, del tutto incapaci di rispettare un tale impegno autoimposto, e
assolve il Governo, che potrebbe far rispettare questo dovere. Se il Governo è
responsabile di prevenire danni ai propri cittadini e di proteggerli, dovrebbe
anche fermare la superintelligenza. Ora, non più tardi.
Ciò che occorre, in sostanza, lo sappiamo da molto tempo. L’intelligenza
artificiale non deve avere alcun posto nella catena di comando: né nella
selezione di target, né nell’emissione di ordini, né in alcun ambito di allerta
precoce e di autorizzazione nucleare. Lo sviluppo richiede una pausa concordata
durante la quale i revisori indipendenti abbiano accesso ai sistemi, proprio
come Amodei ha promesso per la propria azienda, solo che questa volta deve
essere vincolante e applicarsi a tutti. E poiché le capacità del software non
possono essere quantificate, sono le procedure, piuttosto che gli oggetti, a
dover essere sottoposte a scrutinio, come i processi di autorizzazione, le
catene decisionali e gli obblighi di segnalazione degli incidenti come quello di
Hugging Face.
I responsabili delle politiche di sicurezza internazionali avevano capito in
passato, ad esempio nel Rapporto Palme del 1982, che la sicurezza nell’era
nucleare può essere raggiunta solo con l’avversario, non contro di lui. Il
Trattato sulle forze nucleari a medio raggio INF aveva successivamente eliminato
un’intera classe di armi: gli Stati Uniti e la Russia concordarono di
distruggere i propri missili nucleari e le relative infrastrutture in tutto il
mondo. Il Trattato sui cieli aperti aveva instaurato un clima di fiducia
attraverso la trasparenza, prevedendo ogni anno un numero specifico di voli di
osservazione concordati sul territorio degli altri Stati firmatari del trattato.
Entrambi sono stati rescissi o sono scaduti, e non vi sono accordi che ne
abbiano preso il posto (Telepolis, 25 giugno 2026). Il giorno dopo il discorso
di Trump, Xi Jinping ha invocato una maggiore cooperazione internazionale (CNN,
14 settembre 2026). Il fatto che questa invocazione venga da Pechino non è
rassicurante. Dimostra quanto buon mercato un’offerta del genere sia diventata e
quanto costoso sarebbe rifiutarla.
Il 20 settembre, Trump ha finalmente annunciato un ente che regolamenterà l’IA,
l’“AI Force”, ma ha aggiunto che, in nessuna circostanza, gli sarà permesso di
ostacolare l’attuale progresso tecnologico. Inoltre, non ha indetto la creazione
del tanto necessario quadro congiunto di sicurezza internazionale perché, data
la sua visione sciovinista, è esattamente ciò che non vuole.
Di Axel Fersen e Klaus Moegling
--------------------------------------------------------------------------------
Axel Fersen, politologo impegnato nella politica di pace e autore di articoli di
analisi dell’attualità, esperto di trasformazione digitale e intelligenza
artificiale; membro del consiglio di amministrazione dell’Istituto europeo per
la ricerca sociale e sanitaria di Berlino.
Coordina il Circolo Erhard Eppler ed è attivo nel gruppo di studio sulla
valutazione tecnologica della digitalizzazione presso l’Associazione degli
scienziati tedeschi (VDW). https://www.erhard-eppler-kreis.de/uber-uns/
Klaus Moegling, Professore emerito, politologo, ricercatore nel campo della pace
e sociologo; ha insegnato in diverse università e istituti di formazione per
insegnanti, da ultimo presso l’Università di Kassel in qualità di professore
presso il Dipartimento di Scienze Sociali; tra gli altri incarichi, è membro del
comitato consultivo scientifico dell’Erhard Eppler Circle.
È autore del libro «Neuordnung. Ist eine friedliche und nachhaltig entwickelte
Welt noch möglich?» (Riorganizzazione. È ancora possibile un mondo pacifico e
sviluppato in modo sostenibile?), la cui settima edizione aggiornata e ampliata
è disponibile gratuitamente sul suo sito web:
https://www.klaus-moegling.de/international-edition/
Insieme a Josef Mühlbauer (Università di Graz), ha curato il volume *Paths to
Peace: Perspectives on Critical Peace Research* (maggio 2026, Verlag
Westfälisches Dampfboot), disponibile in versione cartacea e in open access:
https://www.dampfboot-verlag.de/de/buecher/wege-zum-frieden
--------------------------------------------------------------------------------
TRADUZIONE DALL’INGLESE DI GAIA DA RÈ. REVISIONE DI THOMAS SCHMID.
Pressenza New York