La fine del mondo secondo l’intelligenza artificiale
LE RECENTI DICHIARAZIONI APOCALITTICHE DEGLI UOMINI PIÙ RICCHI DEL MONDO, O DI
COLORO CHE ASPIRANO A DIVENTARLO, COME ELON MUSK, SAM ALTMAN DI OPENAI E DARIO
AMODEI, L’AMMINISTRATORE DELEGATO DI ANTHROPIC CHE SI ATTEGGIA A FIGURA DI BUON
SENSO, SECONDO SILVIA RIBEIRO SVOLGONO UN RUOLO CHIAVE NEL GARANTIRE LA
CONTINUITÀ DELLE LORO ATTIVITÀ E DEI LORO PROFITTI. VOGLIONO FARCI DIMENTICARE
GLI ENORMI PROBLEMI CHE STANNO CAUSANDO, COME L’USO DELLE ARMI AUTONOME,
L’AGGRAVAMENTO DELLA CRISI CLIMATICA, L’IMPATTO NEGATIVO SULL’ISTRUZIONE. O CHE
IL PROGRAMMA CLAUDE, IDEATO DAL SAGGIO AMODEI, SIA RESPONSABILE DELL’UCCISIONE
DI 168 RAGAZZE IN UNA SCUOLA IN IRAN DA PARTE DEL PENTAGONO
Foto Unsplash
--------------------------------------------------------------------------------
Nelle ultime settimane, abbiamo sentito ancora una volta, dalle più grandi
aziende che la sviluppano, affermazioni megalomani e grandiose sull’intelligenza
artificiale (IA) e sulle sue presunte capacità, dalla sua capacità di risolvere
gli enigmi matematici del secolo al suo potenziale di annientare l’umanità entro
il 2030, e molto altro ancora. Come spiega Timnit Gebru, direttore del
Distributed AI Research Institute, si tratta solo di un’altra cortina fumogena
per distogliere l’attenzione dai gravi problemi reali che l’IA sta già causando,
come l’uso di armi autonome, macchine da guerra impiegate in conflitti e
genocidi, e il ruolo dell’IA e di queste aziende nell’aggravare la crisi
climatica.
È curioso che l’intelligenza artificiale, che secondo alcuni starebbe per
superare l’intelligenza umana, non sia ancora in grado di risolvere i Sudoku. O
meglio, li risolve solo fino a un certo punto e, cosa ancora più importante, non
sa spiegare come e perché ci sia riuscita. E poiché non conosce la risposta, se
la inventa, come spesso accade anche in altri casi.
Gli scienziati dell’Università del Colorado Boulder hanno chiesto a diversi
sistemi di intelligenza artificiale di risolvere dei Sudoku e di spiegare come
ci fossero riusciti. Le risposte sono risultate inadeguate o errate perché i
sistemi di intelligenza artificiale generativa non possiedono logica (né etica,
né emozioni); sono sistemi linguistici predittivi e statistici.
I modelli linguistici su larga scala (LLM) sono alla base di tutti gli
assistenti virtuali basati sull’intelligenza artificiale, come chatGPT, Gemini,
Grok e sistemi simili. Se le risposte che forniscono agli utenti sembrano
coerenti, è perché confrontano miliardi di possibili risposte e adattano il
messaggio alla persona che pone la domanda, ma non pensano. Sono, come affermano
Timnit Gebru ed Emily Bender, “pappagalli stocastici”, che ripetono e
selezionano frasi e testi che non comprendono e che hanno per lo più preso senza
autorizzazione o attribuzione (AI, pappagalli stocastici e automazione del
razzismo).
Questa incapacità dell’IA di spiegare il perché di una determinata scelta è
particolarmente grave quando i sistemi di IA automatizzati vengono utilizzati
nell’assistenza o nella diagnosi medica, per decisioni giudiziarie e legali, per
stabilire se una persona o una piccola impresa possa ricevere un prestito, per
valutare programmi accademici o, in generale, per i processi governativi. Quanto
sopra è grave perché, da un lato, l’addestramento di questi sistemi si basa su
dati già fortemente influenzati da genere, razza e classe sociale e, dall’altro,
perché non è in grado di tenere conto di fattori e contesti che non rientrano
nel suo schema di selezione predittiva.
Con la proliferazione di bot automatizzati e dannosi, anche il fattore
“statistico” è altamente discutibile.
Le recenti dichiarazioni apocalittiche degli uomini più ricchi del mondo, o di
coloro che aspirano a diventarlo, come Elon Musk, Sam Altman di OpenAI e Dario
Amodei, l’amministratore delegato di Anthropic che si atteggia a figura di buon
senso, svolgono attualmente un ruolo chiave nel garantire la continuità delle
loro attività e dei loro profitti. Come ho già accennato, innanzitutto ci
distrae dai veri impatti che si stanno verificando, come il fatto che l’uso
dell’IA continua ad aumentare la sua assurda domanda di energia, che ha un ruolo
chiave nel peggioramento del cambiamento climatico e che i suoi data center
competono con le comunità locali per acqua, terra e salute (Acqua per le persone
o per le multinazionali della tecnologia?).
Vogliono anche farci dimenticare l’impatto negativo sull’istruzione, le
disastrose conseguenze dell’utilizzo di “bot farm” e campagne di massa per
influenzare le elezioni governative, o che il programma Claude, ideato dal
saggio Amodei, sia responsabile dell’uccisione di 168 ragazze in una scuola in
Iran da parte del Pentagono, e che le aziende di intelligenza artificiale
abbiano automatizzato l’omicidio di decine di migliaia di bambini, donne e
uomini in Palestina.
In realtà, la prima domanda a cui dovrebbero rispondere è perché le loro aziende
stiano sviluppando questi sistemi se comportano così tanti pericoli, e questo
problema non è sul tavolo per nessuno di loro. Ciò che propongono è una
moratoria (che nessuno può verificare venga rispettata) e
un’autoregolamentazione, controllata dalle aziende stesse. Come ultima risorsa,
propongono di sedersi a un tavolo con i governi, in un sistema
multi-stakeholder, dove potrebbero comunque esercitare un enorme controllo su di
essi, dato che molti governi hanno delegato gran parte della loro gestione a
queste stesse aziende.
Le promesse di “progresso” legate all’intelligenza artificiale sono state
mantenute? Gli autori Emily Bender e Alex Hanna spiegano che si tratta per lo
più di un’illusione. Nel loro libro, La estafa de la IA (“La truffa dell’IA”,
edito da Paidós), descrivono in dettaglio come, al di là della propaganda
aziendale, i presunti benefici che l’IA avrebbe apportato alla società siano
scarsi o inesistenti, nonostante i profitti senza precedenti per i suoi
proprietari.
Ciò che è reale e ampiamente documentato in tutte le società sono i danni
causati: perdita di posti di lavoro, impatti ambientali, sociali ed educativi, e
danni alla democrazia e all’economia, soprattutto nei paesi che forniscono le
risorse materiali per sostenere questo settore. È tempo di sfatare il mito che
l’IA sia la chiave del progresso per tutti. Al contrario, è un mezzo efficace
per il capitalismo tecnomilitare per perpetuare la disuguaglianza, con metodi
rinnovati di sorveglianza, repressione e guerra.
--------------------------------------------------------------------------------
Pubblicato su biodiversidadla.org (e qui con l’autorizzazione dell’autrice).
Silvia Ribeiro è coordinatrice della ricerca presso la Biodiversity Alliance.
--------------------------------------------------------------------------------
LEGGI ANCHE QUESTO ARTICOLO DI FRANCO BERARDI BIFO:
> L’amaro calice
--------------------------------------------------------------------------------
L'articolo La fine del mondo secondo l’intelligenza artificiale proviene da
Comune-info.