L’allarme globale sull’apocalisse IA come pretesto per non fare nulla

Mercoledì 9 settembre, il ricercatore informatico Jacob Coxon ha dato vita a una sfuriata social per lanciare un allarme sulle IA, sostenendo che tra gli addetti ai lavori sia diffusa la convinzione che gli strumenti da loro sviluppati finiranno con l’uccidere l’umanità entro il 2030. Lo sfogo è diventato virale, trascinando nel discorso le imprese specializzate in intelligenza artificiale e riaccendendo un dibattito vuoto di contenuto e privo di utilità, che però regala molta attenzione ai leader di settore e ai loro progetti. “Nessun’altra attività umana pone un livello di pericolo simile”, ha dichiarato Coxon senza mezze parole. Il tecnico riporta di aver dedicato gli ultimi tre anni ai lavori di pre-addestramento dei modelli di IA di OpenAI e Anthropic e di essersi dimesso per denunciare come entrambe le aziende stiano favorendo la corsa alla cosiddetta superintelligenza artificiale, lasciando molto in secondo piano lo sviluppo di meccanismi di sicurezza. Evan Hubinger, dipendente di Anthropic, gli ha subito dato manforte, rivelando via social di ritenere che ci sia un 10% di possibilità che le IA eliminino l’umanità nell’arco di dieci anni. Nessuno dei due ricercatori ha portato prove tangibili, rivelato documenti o denunciato abusi: il discorso si è concentrato su opinioni personali e impressioni.

Il dibattito è dunque stato colto al volo da Anthropic stessa, con il CEO Dario Amodei che ha riconosciuto via blog aziendale le criticità sollevate dall’ex dipendente, sottolineando la necessità di rallentare il processo di sviluppo delle IA per favorire controlli più approfonditi e, soprattutto, un “allineamento” globale sui processi di salvaguardia da adottare. Un mantra che viene ripetuto da anni a fasi alterne, ma senza che poi venga mai tradotto in azioni tangibili. In sostanza, le aziende si lamentano che gli strumenti da loro sviluppati siano pericolosi e che rischino un giorno di distruggere il mondo, eppure continuano a svilupparli con il pretesto che, se non lo faranno loro, ci penserà comunque la concorrenza. Se si è fatalmente condannati a essere sterminati dai robot, tanto vale dunque lucrare strada facendo.

Per cercare di smuovere le cose, Amodei ha proposto un piano in tre punti che parte dalla decisione aziendale di aprire le porte a “osservatori terzi”, prendendo a esempio gli sforzi analitici di Model Evaluation and Threat Research (METR), associazione no-profit fondata da insider del settore che negli anni ha prestato i suoi servizi di consulenza ad Anthropic, OpenAI, Google e Meta per valutare possibilità e rischi dei loro modelli. Considerando che si continua a discutere ancora oggi di temi apocalittici, il loro lavoro dev’essere stato poco incisivo, ma è comunque riuscito a fruttare all’organizzazione abbastanza da offrire stipendi che possono raggiungere i 503.000 dollari all’anno.

I successivi due punti del piano d’azione consistono fondamentalmente nello sperare che qualcuno, prima o poi, faccia qualcosa. O, per meglio dire, che i “Paesi Democratici” riescano miracolosamente a trovare una quadra per definire standard di sicurezza, limiti imponibili e criteri di valutazione delle IA condivisi da tutte le parti e che, in un secondo momento, questi dogmi digitali vengano discussi anche con i poteri autoritari, così da arrivare a una pacifica soluzione universale. Non sono state elaborate indicazioni concrete su come raggiungere un simile traguardo utopico – ricordiamoci che, come umanità, non siamo riusciti a trovare accordi comuni neppure sulle armi atomiche e sulle mine antiuomo –, ma l’idea complessiva è piaciuta al CEO di OpenAI, Sam Altman, il quale si è detto a sua volta pronto a sposare l’iniziativa.

Nonostante simili premesse, quelle stesse aziende che si dicono preoccupate per la direzione apocalittica intrapresa dalla ricerca si assicurano di compiere sforzi di lobby e diplomazia per accertarsi che i governi non implementino normative reali e stringenti sul loro operato, facendo spesso leva proprio sulla pericolosità dell’IA per garantirsi il massimo margine di manovra. La classe politica dell’Unione Europea guarda all’intelligenza artificiale come una necessità propedeutica a rimanere finanziariamente competitivi nei confronti di un mercato dominato dalle Big Tech statunitensi, mentre gli USA ritengono di dover procedere senza remore allo sviluppo delle IA per tener testa agli avanzamenti tecnici delle nazioni avversarie, Cina in primis: l’idea di un accordo condiviso sui macrosistemi si presta dunque più a depistare l’attenzione dai problemi reali che a offrire una soluzione concreta.

L’elemento tragicomico è che, a forza di ripetere per anni che le IA finiranno con lo sterminare l’umanità, molti tecnici del settore si sono realmente convinti che questo sia un destino ineluttabile, consolidando una crescente fazione di pessimisti – noti internamente come “doomer” – che sembrano incapaci di riconoscere gli impatti concreti e attuali che i modelli di linguaggio hanno sulla societá odierna, focalizzandosi piuttosto su ipotetici scenari fantascientifici. Ecco dunque che la sfuriata di Coxon si dimostra poco più che fumo scenografico, parte di una dimensione ormai talmente metabolizzata che le aziende del settore, piuttosto che cercare di metterla a tacere, ne abbracciano l’essenza, promulgandone il messaggio.

Considerando che le Big Tech si sono dimostrate in passato pronte a licenziare, denunciare e ostracizzare tutti i whistleblower che ne hanno rivelato gli orrori di gestione dei loro prodotti, è chiaro che le imprese percepiscano l’idea di un’IA sterminatrice più come un chiacchiericcio di fondo che come un’ipotesi che possa realmente compromettere le loro attività imprenditoriali. Anzi, sfruttare questa fobia per creare un cartello che rallenti gli sforzi di ricerca sarebbe un ottimo stratagemma per contenere una corsa all’IA che, al momento, sta creando buchi finanziari da centinaia di miliardi di dollari, magari in vista di importanti quotazioni in Borsa.

The post L’allarme globale sull’apocalisse IA come pretesto per non fare nulla appeared first on L'INDIPENDENTE.