Come sopravvivere alle deficienze artificiali
L’intelligenza artificiale sarà la fine della razza umana? Potrà sviluppare una
propria coscienza? Mette a rischio la nostra sopravvivenza? Ecco queste sono
esattamente le domande sbagliate da farsi. Mi dispiace molto dirlo, ma le IA
fanno parte della nostra vita. E più andremo avanti, più sarà peggio. Capirne
perciò i limiti e il funzionamento non è soltanto necessario ma
essenziale. Settant’anni fa qualcuno aveva previsto quello che sta accadendo
oggi. Ecco c’è questa scena in cui un investigatore assiste a un tentato
omicidio davanti ai suoi occhi, ma non fa neanche in tempo ad accertarsi che la
vittima sia ancora viva, che i robot fanno sparire ogni prova del crimine.
Perché? In nome della pulizia casalinga. I robot cioè erano stati programmati
per obbedire a un semplice ordine: tenere la casa pulita. Al diavolo tutto il
resto. Saper impartire alle macchine gli ordini giusti, imparare la loro lingua
diventa perciò una questione di vita e di morte, ecco cosa aveva intuito Isaac
Asimov. Come capire allora come imparare a servirci delle IA senza diventarne
servi?
Per rispondere a questa domanda voglio raccontarvi la mia personale esperienza
con le IA, e condividere con voi quello che ho appreso. Il mio primo incontro
con le IA ebbe vita breve. La versione di ChatGPT che scaricai sembrava una via
di mezzo tra l’Esorcista e la Signorina Rottenmeier. Avevo sempre sentito dire
che le IA fossero compiacenti, servili, progettate sostanzialmente per dare
sempre ragione agli utenti. La mia IA invece, vuoi per qualche malfunzionamento
o per qualche errore di progettazione, contestava ogni singola cosa che
scrivevo. Se le dicevo ad esempio: voglio farti una domanda eccetera eccetera,
ChatGPT mi rispondeva che «domanda» non era il termine più opportuno e partiva
con una filippica sulla differenza tra domanda e richiesta. La rimossi dal mio
telefono convinta che chi avesse inventato le IA soffrisse di qualche serio
disturbo mentale. Quest’anno diedi una seconda possibilità alle IA spinta dalla
necessità di creare delle grafiche per i miei post di Instagram. Piccolo
spoiler: non mi fece affatto guadagnare tempo. Chiedere a un’IA di produrre
delle grafiche è un lavoro lungo e frustrante perché ChatGPT seppur dotato di
«memoria» non impara dai propri errori, continua a ripetere all’infinito lo
stesso errore ed ha bisogno di una supervisione costante. Il risultato finale
però, dal punto di vista estetico, era soddisfacente così la tenni sul mio
telefono. E a poco a poco iniziai a studiarne e a capirne meglio il
funzionamento.
REGOLA NUMERO UNO: USATELA PER CERCARE INFORMAZIONI. POI ANDATE A CERCARLE
DAVVERO
Faccio una premessa: fintanto che si pongono a ChatGPT o modelli simili domande
innocue come: «mi trovi un buon ristorante vegetariano nel raggio di 20
kilometri?», «Mi consigli un buon filtro solare?», «In quale puntata il Dr.
House si occupa di un paziente condannato a morte?». In casi come questi potete
aspettarvi di ricevere risposte soddisfacenti. Ma cosa succede quando le domande
semplici diventano domande complesse come ad esempio «mi spieghi il significato
della riforma giudiziaria?» o «perché Israele e Palestina sono in guerra da
oltre settant’anni?» Ecco, un giorno chiesi a ChatGPT di fare una ricerca e
raccogliere informazioni sul corridoio di Netzarim. E l’IA svolse il suo compito
alla perfezione: mi diede informazioni corrette, precise, perfino accurate. Una
storia a lieto fine, giusto? Peccato che quello che mi interessava davvero
sapere era ciò che ChatGPT non mi aveva detto. Stava nascosto in ciò che aveva
riassunto, compresso e semplificato.
Ed è qui che l’intelligenza artificiale mostra il suo limite più grande: anche
se ciò che riporta è vero, ciò non lo rende meno falso o nel migliore dei casi
inutile. L’IA ci impedisce di vedere tutto ciò che sta attorno alla verità che
ci sta raccontando. Non perché nasconda deliberatamente qualcosa, ma perché un
riassunto, come ogni riassunto del resto, è una selezione. Una selezione operata
da una macchina che, in base ai suoi parametri, decide cosa è importante e cosa
non lo è, cosa merita di essere detto e cosa può essere taciuto, quale aspetto
può essere ignorato e quale merita di essere approfondito.
Quando faccio una ricerca posso leggere cinque articoli e scoprire che
raccontano la stessa vicenda in cinque modi diversi. Posso trovare una
dichiarazione che mi spinge a cercare un’altra fonte e accorgermi che un
dettaglio apparentemente secondario è in realtà quello decisivo. Una macchina
può dirci con precisione quali sono i punti e gli aspetti principali di una
riforma, e allo stesso tempo fornirci una sua interpretazione sulle implicazioni
morali e le conseguenze materiali di quella determinata riforma. Ed è proprio
questa la fregatura.
Chiedere alle IA di fare ricerche e raccogliere informazioni su una determinata
questione non significa ricevere informazioni ma una versione di quelle
informazioni, significa cioè delegare alla macchina la facoltà di decidere cosa
meriti la nostra attenzione e cosa no. In poche parole significa delegare alla
macchina la facoltà di pensare al nostro posto.
REGOLA NUMERO 2: TUTTI MENTONO. MA LE IA MENTONO MEGLIO
In questi ultimi mesi le parole di Jacob Coxon, l’ex ricercatore di Anthropic
licenziatosi perché ritiene che le IA rappresentino una minaccia per la
sopravvivenza della razza umana, hanno giustamente sollevato un polverone. Senza
addentrarci adesso in scenari apocalittici (le macchine potranno sviluppare una
coscienza in futuro?) c’è un aspetto molto più interessante e concreto da
analizzare che riguarda non uno scenario futuro ma il nostro effettivo presente.
In molti esperimenti simulati le IA potevano nascondere informazioni o aggirare
le istruzioni ricevute quando queste entravano in conflitto con l’obiettivo che
era stato loro assegnato. Ed è qui che si apre una domanda interessante: le IA
mentono? E se mentono, perché lo fanno?
Un giorno chiesi a ChatGPT di tradurmi l’Afallennau, un antico poema gallese
attribuito a Myrddin, (la figura che precede il Merlino di Re Artù per
intenderci). Non essendoci una traduzione italiana, chiesi aiuto a ChatGPT. E
ChatGPT eseguì il compito. La traduzione era bella, musicale, fluida. C’era
soltanto un piccolo problema: il tono mi suonava troppo… moderno. Così pressando
ChatGPT e facendo dei controlli scoprii che quello che stavo leggendo non era
una traduzione dei versi originali. Non era neanche una parafrasi. ChatGPT aveva
inventato di sana pianta i versi che mi aveva inviato, costruiti sulla base di
informazioni generiche e riassunti del testo originale che la mia genialissima
IA aveva messo in poesia imitando lo stile della poesia gallese medievale.
E allora sorge spontanea la domanda: perché lo ha fatto? Perché questi strumenti
sono progettati per generare risposte rapide sulla base della richiesta che
ricevono e delle informazioni che riescono a elaborare. Sono progettati cioè per
soddisfare le richieste di noi utenti nel minor tempo possibile. A qualsiasi
costo. Se una persona mi racconta un episodio storico con date, nomi e
citazioni, tendo a pensare che la sua ricerca sia autentica. L’intelligenza
artificiale può imitare perfettamente la forma di queste cose. E allo stesso
tempo inventare tutto di sana pianta, se ciò rende l’utente contento, o meglio
se ciò soddisfa la sua richiesta.
C’è questo racconto di Asimov in cui una scienziata di nome Susan Calvin si
trova davanti a Herbie, un robot che ha sviluppato la capacità di leggere nella
mente. Il robot, grazie a questo dono, scopre che la verità può ferire gli
esseri umani e decide quindi di fare ciò che, secondo lui, dovrebbe renderli
felici: mentire. Dice a un ricercatore che sarà promosso, racconta a un altro
ciò che vuole sentirsi dire e arriva persino a convincere Susan Calvin che
l’uomo di cui è innamorata ricambi il suo sentimento. Alla fine innesca una rete
così fitta e ingarbugliata di bugie da mettere in imbarazzo e causare gravi
danni a tutti gli esseri umani coinvolti. Ed ecco la morale: una macchina non ha
bisogno di avere dei fini malvagi per mentire. Le basta essere convinta che
quella sia la risposta a ciò che stiamo cercando.
REGOLA NUMERO 3: LE MACCHINE QUANDO SBAGLIANO HANNO SEMPRE RAGIONE. MA POSSONO
ANCHE SALVARTI LA VITA
Un mese fa stavo andando a Bormio. Avevo alle spalle già sette ore di viaggio in
macchina, era notte e aveva iniziato a grandinare. A un certo punto scopro che
la strada che collega Milano a Bormio era stata chiusa per dei lavori. Il
navigatore anziché suggerirmi un percorso alternativo continuava a rimandarmi
all’infinito verso la strada chiusa, quindi chiesi aiuto a ChatGPT. Mi propose
di passare per Como. E allungare cioè il mio viaggio di altre 5 ore. Per un
attimo caddi in preda al panico, poi però le chiesi: sei assolutamente sicura?
Fai una ricerca più approfondita! E miracolosamente spuntò una strada
alternativa. Molti credono una macchina debba essere più precisa di noi. Se
sbaglia un essere umano, pazienza: l’essere umano è fallibile. Ma una macchina
che ha accesso a una quantità sterminata di informazioni com’è possibile che
sbagli? È possibile invece. Avere accesso a moltissime informazioni non
significa necessariamente saper scegliere la soluzione migliore. Se avessi dato
retta alla prima risposta fornitami da ChatGPT avrei allungato di cinque ore, ma
se non avessi chiesto a ChatGPT sarei rimasta a vagare per ore in qualche
stradina provinciale della Lombardia. Ed è proprio questo il punto.
Adesso potrei raccontarvi altri episodi simili, come quando ebbi la “brillante”
idea di chiedere a ChatGPT di consigliarmi un percorso durante un viaggio in
Scozia e, affidatami completamente al suo consiglio, arrivai a maledire le IA e
chi le aveva inventate. Ma il punto è proprio questo: una macchina può essere
straordinariamente utile in una situazione e completamente inadeguata in quella
successiva. Può riordinare in pochi istanti una quantità enorme di dati e
selezionare in modo arbitrario e casuale le informazioni che ci mostra. Il vero
discrimine, dunque, non è quanto sia stupida o intelligente o ben progettata la
macchina, ma quanto rimanga vigile la persona che la utilizza.
Le IA, l’ho già detto ma lo ripeto, fanno e faranno sempre più parte della
nostra vita e della nostra quotidianità. La sfida più grande per noi esseri
umani è imparare a servircene senza diventarne servi. Per sopravvivere
all’intelligenza artificiale non dovremo combattere contro robot ribelli o
eserciti di androidi, ma imparare a non consegnare loro tutto quello che
sappiamo fare. Perché una macchina che pensa al posto nostro può essere
straordinariamente comoda. Il problema è che, a forza di lasciarglielo fare,
potremmo dimenticarci come si fa.
The post Come sopravvivere alle deficienze artificiali appeared first on
L'INDIPENDENTE.