Come sopravvivere alle deficienze artificiali

L’intelligenza artificiale sarà la fine della razza umana? Potrà sviluppare una propria coscienza? Mette a rischio la nostra sopravvivenza? Ecco queste sono esattamente le domande sbagliate da farsi. Mi dispiace molto dirlo, ma le IA fanno parte della nostra vita. E più andremo avanti, più sarà peggio. Capirne perciò i limiti e il funzionamento non è soltanto necessario ma essenziale. Settant’anni fa qualcuno aveva previsto quello che sta accadendo oggi. Ecco c’è questa scena in cui un investigatore assiste a un tentato omicidio davanti ai suoi occhi, ma non fa neanche in tempo ad accertarsi che la vittima sia ancora viva, che i robot fanno sparire ogni prova del crimine.

Perché? In nome della pulizia casalinga. I robot cioè erano stati programmati per obbedire a un semplice ordine: tenere la casa pulita. Al diavolo tutto il resto. Saper impartire alle macchine gli ordini giusti, imparare la loro lingua diventa perciò una questione di vita e di morte, ecco cosa aveva intuito Isaac Asimov. Come capire allora come imparare a servirci delle IA senza diventarne servi? 

Per rispondere a questa domanda voglio raccontarvi la mia personale esperienza con le IA, e condividere con voi quello che ho appreso. Il mio primo incontro con le IA ebbe vita breve. La versione di ChatGPT che scaricai sembrava una via di mezzo tra l’Esorcista e la Signorina Rottenmeier. Avevo sempre sentito dire che le IA fossero compiacenti, servili, progettate sostanzialmente per dare sempre ragione agli utenti. La mia IA invece, vuoi per qualche malfunzionamento o per qualche errore di progettazione, contestava ogni singola cosa che scrivevo. Se le dicevo ad esempio: voglio farti una domanda eccetera eccetera, ChatGPT mi rispondeva che «domanda» non era il termine più opportuno e partiva con una filippica sulla differenza tra domanda e richiesta. La rimossi dal mio telefono convinta che chi avesse inventato le IA soffrisse di qualche serio disturbo mentale. Quest’anno diedi una seconda possibilità alle IA spinta dalla necessità di creare delle grafiche per i miei post di Instagram. Piccolo spoiler: non mi fece affatto guadagnare tempo. Chiedere a un’IA di produrre delle grafiche è un lavoro lungo e frustrante perché ChatGPT seppur dotato di «memoria» non impara dai propri errori, continua a ripetere all’infinito lo stesso errore ed ha bisogno di una supervisione costante. Il risultato finale però, dal punto di vista estetico, era soddisfacente così la tenni sul mio telefono. E a poco a poco iniziai a studiarne e a capirne meglio il funzionamento. 

Regola numero uno: Usatela per cercare informazioni. Poi andate a cercarle davvero

Faccio una premessa: fintanto che si pongono a ChatGPT o modelli simili domande innocue come: «mi trovi un buon ristorante vegetariano nel raggio di 20 kilometri?», «Mi consigli un buon filtro solare?», «In quale puntata il Dr. House si occupa di un paziente condannato a morte?». In casi come questi potete aspettarvi di ricevere risposte soddisfacenti. Ma cosa succede quando le domande semplici diventano domande complesse come ad esempio  «mi spieghi il significato della riforma giudiziaria?» o «perché Israele e Palestina sono in guerra da oltre settant’anni?» Ecco, un giorno chiesi a ChatGPT di fare una ricerca e raccogliere informazioni sul corridoio di Netzarim. E l’IA svolse il suo compito alla perfezione: mi diede informazioni corrette, precise, perfino accurate. Una storia a lieto fine, giusto? Peccato che quello che mi interessava davvero sapere era ciò che ChatGPT non mi aveva detto. Stava nascosto in ciò che aveva riassunto, compresso e semplificato. 

Ed è qui che l’intelligenza artificiale mostra il suo limite più grande: anche se ciò che riporta è vero, ciò non lo rende meno falso o nel migliore dei casi inutile. L’IA ci impedisce di vedere tutto ciò che sta attorno alla verità che ci sta raccontando. Non perché nasconda deliberatamente qualcosa, ma perché un riassunto, come ogni riassunto del resto, è una selezione. Una selezione operata da una macchina che, in base ai suoi parametri, decide cosa è importante e cosa non lo è, cosa merita di essere detto e cosa può essere taciuto, quale aspetto può essere ignorato e quale merita di essere approfondito.

Quando faccio una ricerca posso leggere cinque articoli e scoprire che raccontano la stessa vicenda in cinque modi diversi. Posso trovare una dichiarazione che mi spinge a cercare un’altra fonte e accorgermi che un dettaglio apparentemente secondario è in realtà quello decisivo. Una macchina può dirci con precisione quali sono i punti e gli aspetti principali di una riforma, e allo stesso tempo fornirci una sua interpretazione sulle implicazioni morali e le conseguenze materiali di quella determinata riforma. Ed è proprio questa la fregatura. 

Chiedere alle IA di fare ricerche e raccogliere informazioni su una determinata questione non significa ricevere informazioni ma una versione di quelle informazioni, significa cioè delegare alla macchina la facoltà di decidere cosa meriti la nostra attenzione e cosa no. In poche parole significa delegare alla macchina la facoltà di pensare al nostro posto.

Regola numero 2: tutti mentono. Ma le IA mentono meglio

In questi ultimi mesi le parole di Jacob Coxon, l’ex ricercatore di Anthropic licenziatosi perché ritiene che le IA rappresentino una minaccia per la sopravvivenza della razza umana, hanno giustamente sollevato un polverone. Senza addentrarci adesso in scenari apocalittici (le macchine potranno sviluppare una coscienza in futuro?) c’è un aspetto molto più interessante e concreto da analizzare che riguarda non uno scenario futuro ma il nostro effettivo presente. In molti esperimenti simulati le IA potevano nascondere informazioni o aggirare le istruzioni ricevute quando queste entravano in conflitto con l’obiettivo che era stato loro assegnato. Ed è qui che si apre una domanda interessante: le IA mentono? E se mentono, perché lo fanno? 

Un giorno chiesi a ChatGPT di tradurmi l’Afallennau, un antico poema gallese attribuito a Myrddin, (la figura che precede il Merlino di Re Artù per intenderci). Non essendoci una traduzione italiana, chiesi aiuto a ChatGPT.  E ChatGPT eseguì il compito. La traduzione era bella, musicale, fluida.  C’era soltanto un piccolo problema: il tono mi suonava troppo… moderno. Così pressando ChatGPT e facendo dei controlli scoprii che quello che stavo leggendo non era una traduzione dei versi originali. Non era neanche una parafrasi. ChatGPT aveva inventato di sana pianta i versi che mi aveva inviato, costruiti sulla base di informazioni generiche e riassunti del testo originale che la mia genialissima IA aveva messo in poesia imitando lo stile della poesia gallese medievale.

E allora sorge spontanea la domanda: perché lo ha fatto? Perché questi strumenti sono progettati per generare risposte rapide sulla base della richiesta che ricevono e delle informazioni che riescono a elaborare. Sono progettati cioè per soddisfare le richieste di noi utenti nel minor tempo possibile. A qualsiasi costo.  Se una persona mi racconta un episodio storico con date, nomi e citazioni, tendo a pensare che la sua ricerca sia autentica. L’intelligenza artificiale può imitare perfettamente la forma di queste cose. E allo stesso tempo inventare tutto di sana pianta, se ciò rende l’utente contento, o meglio se ciò soddisfa la sua richiesta. 

C’è questo racconto di Asimov in cui una scienziata di nome Susan Calvin si trova davanti a Herbie, un robot che ha sviluppato la capacità di leggere nella mente. Il robot, grazie a questo dono, scopre che la verità può ferire gli esseri umani e decide quindi di fare ciò che, secondo lui, dovrebbe renderli felici: mentire. Dice a un ricercatore che sarà promosso, racconta a un altro ciò che vuole sentirsi dire e arriva persino a convincere Susan Calvin che l’uomo di cui è innamorata ricambi il suo sentimento. Alla fine innesca una rete così fitta e ingarbugliata di bugie da mettere in imbarazzo e causare gravi danni a tutti gli esseri umani coinvolti. Ed ecco la morale: una macchina non ha bisogno di avere dei fini malvagi per mentire. Le basta essere convinta che quella sia la risposta a ciò che  stiamo cercando.

Regola numero 3: le macchine quando sbagliano hanno sempre ragione. Ma possono anche salvarti la vita

Un mese fa stavo andando a Bormio. Avevo alle spalle già sette ore di viaggio in macchina, era notte e aveva iniziato a grandinare. A un certo punto scopro che la strada che collega Milano a Bormio era stata chiusa per dei lavori. Il navigatore anziché suggerirmi un percorso alternativo continuava a rimandarmi all’infinito verso la strada chiusa, quindi chiesi aiuto a ChatGPT. Mi propose di passare per Como. E allungare cioè il mio viaggio di altre 5 ore. Per un attimo caddi in preda al panico, poi però le chiesi: sei assolutamente sicura? Fai una ricerca più approfondita! E miracolosamente spuntò una strada alternativa. Molti credono una macchina debba essere più precisa di noi. Se sbaglia un essere umano, pazienza: l’essere umano è fallibile. Ma una macchina che ha accesso a una quantità sterminata di informazioni  com’è possibile che sbagli? È possibile invece. Avere accesso a moltissime informazioni non significa necessariamente saper scegliere la soluzione migliore. Se avessi dato retta alla prima risposta fornitami da ChatGPT avrei allungato di cinque ore, ma se non avessi chiesto a ChatGPT sarei rimasta a vagare per ore in qualche stradina provinciale della Lombardia. Ed è proprio questo il punto.

Adesso potrei raccontarvi altri episodi simili, come quando ebbi la “brillante” idea di chiedere a ChatGPT di consigliarmi un percorso durante un viaggio in Scozia e, affidatami completamente al suo consiglio, arrivai a maledire le IA e chi le aveva inventate. Ma il punto è proprio questo: una macchina può essere straordinariamente utile in una situazione e completamente inadeguata in quella successiva. Può riordinare in pochi istanti una quantità enorme di dati e selezionare in modo arbitrario e casuale le informazioni che ci mostra. Il vero discrimine, dunque, non è quanto sia stupida o intelligente o ben progettata la macchina, ma quanto rimanga vigile la persona che la utilizza.

Le IA, l’ho già detto ma lo ripeto, fanno e faranno sempre più parte della nostra vita e della nostra quotidianità. La sfida più grande per noi esseri umani è imparare a servircene senza diventarne servi. Per sopravvivere all’intelligenza artificiale non dovremo combattere contro robot ribelli o eserciti di androidi, ma imparare a non consegnare loro tutto quello che sappiamo fare. Perché una macchina che pensa al posto nostro può essere straordinariamente comoda. Il problema è che, a forza di lasciarglielo fare, potremmo dimenticarci come si fa.

The post Come sopravvivere alle deficienze artificiali appeared first on L'INDIPENDENTE.