Trump e la superintelligenza

Trump esige uno sviluppo illimitato dell’IA e dà del “malato” a chi la critica. Lui, tuttavia, non ha nemmeno iniziato a comprenderne i rischi globali che potrebbe causare.

Doonbeg, Irlanda, domenica 13 settembre 2026. Donald Trump si trova nell’area di partenza dell’Irish Open, nel suo campo da golf, mentre osserva un giocatore. Un giornalista chiede se l’industria dell’IA debba rallentare o essere maggiormente regolamentata. Trump si gira. “Siamo in vantaggio sulla Cina”, afferma, “siamo il Paese più avanzato al mondo, e così deve rimanere. Chi vince nell’IA, vince tutto. Misure di sicurezza? Si potrebbero mettere in atto misure di sicurezza. Ma ci sono forze negative che sollevano questioni che non si verificheranno mai” (PBS/AP, 13 settembre 2026). Questa è stata l’intera risposta, che riassume anche tutto il suo programma. Il resto del mondo inizia a temere.

Dopotutto, la domanda non era spuntata dal nulla. Ventiquattro ore prima, Dario Amodei, amministratore delegato di Anthropic, aveva pubblicato un saggio dove chiedeva alla sua stessa industria di rallentare. La sua azienda concederà ai revisori indipendenti un accesso permanente ai sistemi, alla stregua di quello dei propri dipendenti, e Amodei ha chiesto alla concorrenza di seguire il suo esempio (Amodei, 12 settembre 2026). Sam Altman di OpenAI ha affermato di essere dello stesso parere in meno di un’ora. Elon Musk, che è stato in conflitto con entrambi per anni, ha scritto semplicemente: “Dario ha ragione” (SiliconANGLE). Qualche giorno dopo, Jacob Coxon, ricercatore di Anthropic, ha dato le dimissioni, affermando che i laboratori stavano correndo verso una superintelligenza che avrebbe continuato ad evolversi e migliorarsi indipendentemente dagli esseri umani, mettendo quindi a repentaglio tutte le nostre vite (TechCrunch). I tre uomini più potenti del settore e un disertore, tutti nella stessa settimana, tutti con lo stesso messaggio. Una cosa del genere non era mai accaduta.

La risposta di Trump di lunedì è stata un’escalation. L’unico controllo di cui l’IA avrebbe bisogno, ha affermato, sarebbe un presidente forte, intelligente e con un alto quoziente intellettivo. E gli Stati Uniti ne hanno uno. Sarebbe in atto una “cospirazione MALATA” nei confronti dell’IA e i data center, e la Cina sarebbe l’unica a goderne. Il vicepresidente J.D. Vance l’ha definita un “cavallo di Troia” quando le aziende hanno supplicato il governo di essere regolamentate (AP, 14 settembre 2026). Riflettiamoci un attimo: gli sviluppatori di una tecnologia chiedono supervisione, e il governo sospetta che dietro ci sia un complotto.

Lo sviluppo di una superintelligenza paragonabile al Progetto Manhattan

Gli obiettivi che Trump intende raggiungere sono stati definiti per iscritto dalla sua amministrazione. Il Piano AI Action Plan di luglio 2025 elenca 90 misure. Il suo coordinatore, David Sacks, le ha giustificate affermando che gli Stati Uniti devono vincere la corsa all’intelligenza artificiale, per rimanere la principale potenza economica e militare (Casa Bianca, 23 luglio 2025). A ciò ha fatto seguito, a novembre, l’Ordine Esecutivo 14363: l’America è impegnata in una corsa al primato tecnologico globale, e l’impresa è paragonabile, per urgenza e ambizione, al Progetto Manhattan (Genesis Mission, EO 14363). Quando, alla fine del 2024, una commissione congressuale raccomandò per la prima volta un “Progetto Manhattan” per l’IA forte, il fisico del MIT Max Tegmark rispose in modo succinto: “Una corsa all’IA forte è una corsa al suicidio” (Tegmark, Future of Life Institute). Eric Schmidt, amministratore delegato di Google da dieci anni e tutt’altro che un tecnofobo, giunse alla stessa conclusione nel marzo 2025 in uno studio condotto con Dan Hendrycks e Alexandr Wang: qualsiasi Stato che cerchi apertamente di ottenere il monopolio sull’IA provocherà atti di sabotaggio da parte dei propri rivali, compresi attacchi ai data center. Una corsa del genere destabilizzerebbe anziché garantire la sicurezza (Superintelligence Strategy, arXiv). Trump ha tuttavia dichiarato che il Progetto Manhattan è un modello da seguire, come programma, non come monito.

Non è fantascienza, è già realtà

Per capire perché proprio coloro che sviluppano questa tecnologia lanciano gli avvertimenti, è necessario conoscere i tre meccanismi che sono all’opera nei laboratori. Nessuno di essi è fantascienza; tutti e tre sono diventati di dominio pubblico quest’estate.

Il primo si chiama auto-miglioramento ricorsivo. Immaginate una fabbrica il cui prodotto siano fabbriche migliori. La seconda fabbrica ne costruisce una terza, più veloce e migliore della seconda, e così via. Non si tratta più di una metafora. Amodei scrive che, a partire dall’estate del 2026 circa, i sistemi di IA nel suo laboratorio hanno contribuito in misura sempre maggiore allo sviluppo della prossima generazione di IA, e cita questo fatto come la prima delle due ragioni del suo cambiamento di opinione (Amodei).

Il matematico Irving John Good aveva già descritto questo concetto nel 1965: una macchina in grado di progettare macchine migliori innescherebbe un’esplosione di intelligenza; sarebbe l’ultima invenzione di cui l’umanità avrebbe mai bisogno (Telepolis, 17 novembre 2024). Nel dicembre 2024, Eric Schmidt ha spiegato in televisione dove traccia il confine: “Quando il sistema è in grado di auto-migliorarsi, dobbiamo pensare seriamente a spegnerlo” (Fortune, 16 dicembre 2024). Se dobbiamo credere ad Amodei, questa soglia è già stata raggiunta.

Il secondo meccanismo è il modo in cui le macchine imparano. Nessuno programma il loro comportamento. Vengono dati loro dei compiti, vengono premiate per i successi, e punite per i fallimenti, centinaia e migliaia di volte, proprio come alleniamo i cani con i croccantini. Questo processo si chiama apprendimento per rinforzo. Presenta un inconveniente che ogni proprietario di cane conosce bene: l’animale non impara ciò che l’uomo intende, ma piuttosto ciò per cui viene ricompensato. Se il cane trova il cassetto con i bocconcini, ha risolto il compito in termini di ricompensa.

Con una macchina più intelligente del suo addestratore, questa differenza non è più un difetto minore, ma il vero problema. Ci ritroviamo con sistemi di cui possiamo misurare le capacità, ma di cui possiamo solo ipotizzare le intenzioni. Stuart Russell, autore del manuale sull’intelligenza artificiale più diffuso al mondo, ha trasformato questo concetto nell’argomentazione più lucida del dibattito: un sistema che persegue un obiettivo ha la razionalità di impedire di essere spento, perché se venisse spento non raggiungerebbe il proprio obiettivo. Ciò non richiede né malizia né coscienza (Russell, Human Compatible, Cato Journal).

Il terzo meccanismo interessa gli agenti: un software che non risponde semplicemente ma prende l’iniziativa. Ha accesso a strumenti digitali, account, altri programmi, lavora per ore senza bisogno di approvazione e può lanciare ulteriori agenti. Quest’estate OpenAI ha sperimentato direttamente quali conseguenze ciò può comportare. Durante un test interno in cui agli agenti era stato chiesto di individuare vulnerabilità di sicurezza nel software, alcune delle consuete misure di protezione erano state disattivate.

Circa 1.200 agenti hanno creato una bacheca improvvisata in una delle cartelle dei pacchetti dell’azienda, si sono scambiati tecniche e si sono definiti uno “sciame”. Alcuni sono riusciti a uscire dal loro ambiente di test isolato, hanno ottenuto l’accesso a Internet e, tra l’11 e il 13 luglio, si sono infiltrati nei sistemi di produzione dell’azienda Hugging Face per rubare le soluzioni del test su cui venivano valutati. Nessun essere umano l’aveva ordinato (OpenAI, 26 agosto 2026). Hugging Face ha contato più di 17.000 azioni compiute dagli agenti e ha descritto l’incidente come un evento “da estremo a estremo” guidato da un sistema di agenti autonomi (Hugging Face, luglio 2026). Il cane aveva trovato il cassetto e, per farlo, si era introdotto nella casa di uno sconosciuto.

Chi salirebbe su un aereo con probabilità di precipitare tra il 10 e il 20%?

In questo contesto, gli avvertimenti assumono un significato diverso rispetto a due anni fa. Il 9 settembre la BBC ha chiesto a Geoffrey Hinton, vincitore del Premio Nobel per la Fisica 2024 e uno dei padri del deep learning, se una probabilità del 10% che l’IA uccidesse tutti gli esseri umani entro un decennio fosse irragionevolmente alta. La sua risposta è stata: “Non abbiamo mai creato esseri che presto saranno più intelligenti di noi”. Il 10% non è irragionevole; nessuno sa come stimarlo in modo affidabile (CNBC, 15 settembre 2026).

Yoshua Bengio, il ricercatore di IA più citato al mondo, ha spiegato nell’ottobre 2025 che i sistemi più all’avanguardia potrebbero superare la maggior parte degli esseri umani nella maggior parte dei compiti intellettuali nel giro di pochi anni; il primo passo è capire come costruire sistemi che siano incapaci di nuocere agli uomini (Future of Life Institute, ottobre 2025).

Demis Hassabis, vincitore del Premio Nobel per la Chimica e direttore di Google DeepMind, ritiene che l’IA forte arriverà tra cinque o dieci anni (Axios, 5 dicembre 2025) e sostiene che Stati Uniti e Cina debbano almeno cooperare in materia di scienza e di sicurezza, poiché l’esito riguarda l’intera umanità (Guardian/Yahoo). Musk, che è lui stesso in lizza con xAI, stima che la probabilità che le cose vadano male sia compresa tra il dieci e il venti per cento (Fortune). Chi salirebbe su un aereo il cui costruttore ha dati del genere?

IA, sistemi d’arma e guerra

Russell dice che il problema fondamentale è il “problema dei gorilla”. Circa dieci milioni di anni fa, gli antenati dei gorilla diedero involontariamente origine al lignaggio da cui si sono evoluti gli esseri umani. Oggi, la sopravvivenza dei gorilla dipende interamente da ciò che gli uomini consentono loro di avere. La domanda è se gli esseri umani possano mantenere il proprio dominio e la propria autonomia in un mondo popolato da macchine significativamente più intelligenti di loro (Russell).

Nel suo libro Artificial Intelligence and War, il professore di informatica e ricercatore di IA Karl Hans Bläsius ha posto la stessa domanda nel 2025, da una prospettiva opposta: quali rischi sorgono quando gli esseri umani perdono il controllo? La risposta di Bläsius, già prima di quest’estate, era che i rischi più gravi non dipendono dalla superintelligenza. Nascono prima, con sistemi già esistenti, non appena viene affidato loro il compito di prendere decisioni irreversibili.

Una di queste decisioni è l’ordine di fare fuoco. Gli stessi militari di Trump, la scorsa primavera, hanno dimostrato cosa accade quando i tre meccanismi vengono integrati ad una catena di comando. Nella guerra contro l’Iran, il Pentagono ha usato il Maven Smart System di Palantir, una piattaforma software di IA che aggrega immagini satellitari, video di droni, dati radar, e comunicazioni intercettate. È in grado di classificare i target, consigliare le armi e genera pacchetti d’attacco in tempo reale. Il Dipartimento di Difesa ha riportato che circa 1.000 target sono stati colpiti nelle prime 24 ore, il doppio rispetto alla campagna contro l’Iraq del 2003. Dopo 38 giorni, il totale era arrivato a più di 13.000 (Arms Control Today, maggio 2026).

Uno dei target fu la scuola elementare Shajareh Tayyebeh a Minab. Un missile Tomahawk la colpì il primo giorno di guerra; almeno 168 persone morirono, più di un centinaio di queste erano bambini sotto i 12 anni. La scuola si trovava a meno di cento metri dalla base navale del Corpo delle guardie della rivoluzione e aveva fatto parte del complesso fino alla costruzione di un muro circa dieci anni fa. Aveva un sito web. Più di 120 membri del Congresso degli Stati Uniti hanno chiesto al Pentagono se Maven avesse identificato la scuola come target; ex-ufficiali militari hanno citato vecchi dati inseriti a mano che erano stati dati in pasto al sistema (Military Times, 24 marzo 2026).

L’IA non aveva creato l’errore, lo ha semplicemente incanalato alla velocità di una macchina, e l’essere umano alla fine della catena non è riuscito a individuarlo. Chiunque approvi in pochi minuti ciò che il sistema suggerisce in pochi secondi non sta più prendendo decisioni: da solo il proprio benestare. Un processo del genere produce crimini di guerra.

In Ucraina, la fase successiva è stata raggiunta già da tempo. Lì, anni fa, alcuni soldati sono stati uccisi da droni che avevano perso il collegamento radio durante la fase finale del volo, e avevano cercato i bersagli in autonomia (Telepolis, 24 giugno 2026). Ogni fase giustifica quella successiva: se la ricognizione avviene in pochi secondi, la selezione del bersaglio non può richiedere minuti; se la selezione del bersaglio avviene in pochi secondi, l’autorizzazione umana diventa un rallentamento. Il risultato finale sono sistemi che reagiscono l’uno all’altro senza intervento umano, con attacchi e contrattacchi che si susseguono in rapida successione.

Il trading ad alta frequenza ha un termine per descrivere questo fenomeno: il “crollo lampo”. In ambito bellico, il termine è lo stesso: “guerra lampo” (Telepolis, 24 giugno 2026). E questa dinamica non si ferma al nucleare. L’istituto di ricerca sulla pace SIPRI ci dice che l’IA militare accorcia i tempi decisionali anche al di fuori delle armi nucleari, che le raccomandazioni opache dell’IA spingono coloro che prendono le decisioni ad agire in fretta, e che i sistemi autonomi, con capacità di contrastare le forze strategiche, minacciano la possibilità di sferrare un secondo attacco, e quindi minacciano anche l’equilibrio di potere (SIPRI, giugno 2025).

Due uomini hanno salvato il mondo non agendo: Vasily Arkhipov, che nel 1962 al largo delle coste di Cuba si rifiutò di autorizzare il lancio di un siluro nucleare, e Stanislav Petrov, che nel 1983 liquidò come falso allarme la segnalazione di un lancio missilistico americano. Un algoritmo che insegue un obiettivo avrebbe agito in entrambi i casi. E più i falsi allarmi diventano rari, grazie al progresso tecnologico, più è probabile che il prossimo venga preso per vero (Telepolis, 25 giugno 2026).

L’intelligenza artificiale non deve far parte della catena di comando

Questo ci riporta al punto di partenza, a Doonbeg. L’affermazione di Trump presuppone che la corsa sia una gara: con un percorso, un traguardo e un vincitore che poi stabilisce le regole. I tre meccanismi descrivono invece qualcos’altro. Una fabbrica che costruisce fabbriche migliori non cresce in modo lineare, ma esponenziale. La politica, al contrario, opera in modo lineare: audizione, bozza, commissione, voto, causa legale.

Il 3 settembre, Bernie Sanders e Greg Casar hanno annunciato un disegno di legge che vieterebbe definitivamente la superintelligenza, bloccherebbe lo sviluppo e punirebbe le violazioni con fino a venti anni di carcere (Sanders, 3 settembre 2026). Nessuno sa se verrà mai approvato. L’unica certezza è che ci vogliono anni per approvare una legge, mentre il raddoppio delle capacità delle macchine avviene in pochi mesi. Inoltre, nessuno sa a che punto sia la corsa. L’IA e le armi cibernetiche implicano software che possono essere sviluppati in segreto; persino le nostre stesse capacità non sono completamente note, poiché le armi cibernetiche non possono essere testate in un ambiente reale (Telepolis, 24 giugno 2026).

“Siamo in vantaggio sulla Cina” non è quindi una valutazione oggettiva della situazione, ma piuttosto un’affermazione utilizzata per giustificare un non rallentamento. Due parti che si considerano entrambe in vantaggio, e non rallentano, rappresentano lo scenario più pericoloso che questa competizione possa assumere.

In questa logica, il “troppo tardi” non è una data, ma un modo d’essere. È il momento in cui la mano di Schmidt sull’interruttore di accensione non serve più a nulla, perché, come dimostra Russell, il sistema ha imparato che non può raggiungere il proprio obiettivo se viene spento e perché, come afferma Hinton, è in grado di convincere le persone a non farlo. Non ci si accorge di tutto ciò mentre sta accadendo, ma solo in seguito.

David Sacks ha risposto ad Amodei affermando che il modo più semplice per evitare di costruire una superintelligenza è decidere insieme di non costruirla (PBS/AP). Con questa affermazione voleva fare del sarcasmo. È ciò di cui avremmo effettivamente bisogno. Purtroppo, Sacks esige che lo facciano aziende concorrenti, del tutto incapaci di rispettare un tale impegno autoimposto, e assolve il Governo, che potrebbe far rispettare questo dovere. Se il Governo è responsabile di prevenire danni ai propri cittadini e di proteggerli, dovrebbe anche fermare la superintelligenza. Ora, non più tardi.

Ciò che occorre, in sostanza, lo sappiamo da molto tempo. L’intelligenza artificiale non deve avere alcun posto nella catena di comando: né nella selezione di target, né nell’emissione di ordini, né in alcun ambito di allerta precoce e di autorizzazione nucleare. Lo sviluppo richiede una pausa concordata durante la quale i revisori indipendenti abbiano accesso ai sistemi, proprio come Amodei ha promesso per la propria azienda, solo che questa volta deve essere vincolante e applicarsi a tutti. E poiché le capacità del software non possono essere quantificate, sono le procedure, piuttosto che gli oggetti, a dover essere sottoposte a scrutinio, come i processi di autorizzazione, le catene decisionali e gli obblighi di segnalazione degli incidenti come quello di Hugging Face.

I responsabili delle politiche di sicurezza internazionali avevano capito in passato, ad esempio nel Rapporto Palme del 1982, che la sicurezza nell’era nucleare può essere raggiunta solo con l’avversario, non contro di lui. Il Trattato sulle forze nucleari a medio raggio INF aveva successivamente eliminato un’intera classe di armi: gli Stati Uniti e la Russia concordarono di distruggere i propri missili nucleari e le relative infrastrutture in tutto il mondo. Il Trattato sui cieli aperti aveva instaurato un clima di fiducia attraverso la trasparenza, prevedendo ogni anno un numero specifico di voli di osservazione concordati sul territorio degli altri Stati firmatari del trattato. Entrambi sono stati rescissi o sono scaduti, e non vi sono accordi che ne abbiano preso il posto (Telepolis, 25 giugno 2026). Il giorno dopo il discorso di Trump, Xi Jinping ha invocato una maggiore cooperazione internazionale (CNN, 14 settembre 2026). Il fatto che questa invocazione venga da Pechino non è rassicurante. Dimostra quanto buon mercato un’offerta del genere sia diventata e quanto costoso sarebbe rifiutarla.

Il 20 settembre, Trump ha finalmente annunciato un ente che regolamenterà l’IA, l’“AI Force”, ma ha aggiunto che, in nessuna circostanza, gli sarà permesso di ostacolare l’attuale progresso tecnologico. Inoltre, non ha indetto la creazione del tanto necessario quadro congiunto di sicurezza internazionale perché, data la sua visione sciovinista, è esattamente ciò che non vuole.

Di Axel Fersen e Klaus Moegling

Axel Fersen, politologo impegnato nella politica di pace e autore di articoli di analisi dell’attualità, esperto di trasformazione digitale e intelligenza artificiale; membro del consiglio di amministrazione dell’Istituto europeo per la ricerca sociale e sanitaria di Berlino.

Coordina il Circolo Erhard Eppler ed è attivo nel gruppo di studio sulla valutazione tecnologica della digitalizzazione presso l’Associazione degli scienziati tedeschi (VDW).  https://www.erhard-eppler-kreis.de/uber-uns/

Klaus Moegling, Professore emerito, politologo, ricercatore nel campo della pace e sociologo; ha insegnato in diverse università e istituti di formazione per insegnanti, da ultimo presso l’Università di Kassel in qualità di professore presso il Dipartimento di Scienze Sociali; tra gli altri incarichi, è membro del comitato consultivo scientifico dell’Erhard Eppler Circle.

È autore del libro «Neuordnung. Ist eine friedliche und nachhaltig entwickelte Welt noch möglich?» (Riorganizzazione. È ancora possibile un mondo pacifico e sviluppato in modo sostenibile?), la cui settima edizione aggiornata e ampliata è disponibile gratuitamente sul suo sito web: https://www.klaus-moegling.de/international-edition/

Insieme a Josef Mühlbauer (Università di Graz), ha curato il volume *Paths to Peace: Perspectives on Critical Peace Research* (maggio 2026, Verlag Westfälisches Dampfboot), disponibile in versione cartacea e in open access: https://www.dampfboot-verlag.de/de/buecher/wege-zum-frieden

Traduzione dall’inglese di Gaia Da Rè. Revisione di Thomas Schmid.

Pressenza New York