La fine del mondo secondo l’intelligenza artificiale

Le recenti dichiarazioni apocalittiche degli uomini più ricchi del mondo, o di coloro che aspirano a diventarlo, come Elon Musk, Sam Altman di OpenAI e Dario Amodei, l’amministratore delegato di Anthropic che si atteggia a figura di buon senso, secondo Silvia Ribeiro svolgono un ruolo chiave nel garantire la continuità delle loro attività e dei loro profitti. Vogliono farci dimenticare gli enormi problemi che stanno causando, come l’uso delle armi autonome, l’aggravamento della crisi climatica, l’impatto negativo sull’istruzione. O che il programma Claude, ideato dal saggio Amodei, sia responsabile dell’uccisione di 168 ragazze in una scuola in Iran da parte del Pentagono

Foto Unsplash

Nelle ultime settimane, abbiamo sentito ancora una volta, dalle più grandi aziende che la sviluppano, affermazioni megalomani e grandiose sull’intelligenza artificiale (IA) e sulle sue presunte capacità, dalla sua capacità di risolvere gli enigmi matematici del secolo al suo potenziale di annientare l’umanità entro il 2030, e molto altro ancora. Come spiega Timnit Gebru, direttore del Distributed AI Research Institute, si tratta solo di un’altra cortina fumogena per distogliere l’attenzione dai gravi problemi reali che l’IA sta già causando, come l’uso di armi autonome, macchine da guerra impiegate in conflitti e genocidi, e il ruolo dell’IA e di queste aziende nell’aggravare la crisi climatica.

È curioso che l’intelligenza artificiale, che secondo alcuni starebbe per superare l’intelligenza umana, non sia ancora in grado di risolvere i Sudoku. O meglio, li risolve solo fino a un certo punto e, cosa ancora più importante, non sa spiegare come e perché ci sia riuscita. E poiché non conosce la risposta, se la inventa, come spesso accade anche in altri casi.

Gli scienziati dell’Università del Colorado Boulder hanno chiesto a diversi sistemi di intelligenza artificiale di risolvere dei Sudoku e di spiegare come ci fossero riusciti. Le risposte sono risultate inadeguate o errate perché i sistemi di intelligenza artificiale generativa non possiedono logica (né etica, né emozioni); sono sistemi linguistici predittivi e statistici.

I modelli linguistici su larga scala (LLM) sono alla base di tutti gli assistenti virtuali basati sull’intelligenza artificiale, come chatGPT, Gemini, Grok e sistemi simili. Se le risposte che forniscono agli utenti sembrano coerenti, è perché confrontano miliardi di possibili risposte e adattano il messaggio alla persona che pone la domanda, ma non pensano. Sono, come affermano Timnit Gebru ed Emily Bender, “pappagalli stocastici”, che ripetono e selezionano frasi e testi che non comprendono e che hanno per lo più preso senza autorizzazione o attribuzione (AI, pappagalli stocastici e automazione del razzismo).

Questa incapacità dell’IA di spiegare il perché di una determinata scelta è particolarmente grave quando i sistemi di IA automatizzati vengono utilizzati nell’assistenza o nella diagnosi medica, per decisioni giudiziarie e legali, per stabilire se una persona o una piccola impresa possa ricevere un prestito, per valutare programmi accademici o, in generale, per i processi governativi. Quanto sopra è grave perché, da un lato, l’addestramento di questi sistemi si basa su dati già fortemente influenzati da genere, razza e classe sociale e, dall’altro, perché non è in grado di tenere conto di fattori e contesti che non rientrano nel suo schema di selezione predittiva.

Con la proliferazione di bot automatizzati e dannosi, anche il fattore “statistico” è altamente discutibile.

Le recenti dichiarazioni apocalittiche degli uomini più ricchi del mondo, o di coloro che aspirano a diventarlo, come Elon Musk, Sam Altman di OpenAI e Dario Amodei, l’amministratore delegato di Anthropic che si atteggia a figura di buon senso, svolgono attualmente un ruolo chiave nel garantire la continuità delle loro attività e dei loro profitti. Come ho già accennato, innanzitutto ci distrae dai veri impatti che si stanno verificando, come il fatto che l’uso dell’IA continua ad aumentare la sua assurda domanda di energia, che ha un ruolo chiave nel peggioramento del cambiamento climatico e che i suoi data center competono con le comunità locali per acqua, terra e salute (Acqua per le persone o per le multinazionali della tecnologia?).

Vogliono anche farci dimenticare l’impatto negativo sull’istruzione, le disastrose conseguenze dell’utilizzo di “bot farm” e campagne di massa per influenzare le elezioni governative, o che il programma Claude, ideato dal saggio Amodei, sia responsabile dell’uccisione di 168 ragazze in una scuola in Iran da parte del Pentagono, e che le aziende di intelligenza artificiale abbiano automatizzato l’omicidio di decine di migliaia di bambini, donne e uomini in Palestina.

In realtà, la prima domanda a cui dovrebbero rispondere è perché le loro aziende stiano sviluppando questi sistemi se comportano così tanti pericoli, e questo problema non è sul tavolo per nessuno di loro. Ciò che propongono è una moratoria (che nessuno può verificare venga rispettata) e un’autoregolamentazione, controllata dalle aziende stesse. Come ultima risorsa, propongono di sedersi a un tavolo con i governi, in un sistema multi-stakeholder, dove potrebbero comunque esercitare un enorme controllo su di essi, dato che molti governi hanno delegato gran parte della loro gestione a queste stesse aziende.

Le promesse di “progresso” legate all’intelligenza artificiale sono state mantenute? Gli autori Emily Bender e Alex Hanna spiegano che si tratta per lo più di un’illusione. Nel loro libro, La estafa de la IA (“La truffa dell’IA”, edito da Paidós), descrivono in dettaglio come, al di là della propaganda aziendale, i presunti benefici che l’IA avrebbe apportato alla società siano scarsi o inesistenti, nonostante i profitti senza precedenti per i suoi proprietari.

Ciò che è reale e ampiamente documentato in tutte le società sono i danni causati: perdita di posti di lavoro, impatti ambientali, sociali ed educativi, e danni alla democrazia e all’economia, soprattutto nei paesi che forniscono le risorse materiali per sostenere questo settore. È tempo di sfatare il mito che l’IA sia la chiave del progresso per tutti. Al contrario, è un mezzo efficace per il capitalismo tecnomilitare per perpetuare la disuguaglianza, con metodi rinnovati di sorveglianza, repressione e guerra.

Pubblicato su biodiversidadla.org (e qui con l’autorizzazione dell’autrice). Silvia Ribeiro è coordinatrice della ricerca presso la Biodiversity Alliance.

LEGGI ANCHE QUESTO ARTICOLO DI FRANCO BERARDI BIFO:

L’amaro calice

L'articolo La fine del mondo secondo l’intelligenza artificiale proviene da Comune-info.