Lo scandalo sull’immigrazione britannica rivela i rischi dell’IA nella pubblica amministrazione

A seguito di un’indagine durata sei mesi, l’organizzazione non governativa Open Rights Group (ORG) denuncia che il ministero degli Interni del Regno Unito avrebbe impiegato in maniera impropria una moltetudine di sistemi di intelligenza artificiale al fine di gestire la richiesta d’asilo dei rifugiati in attesa d’accoglienza. Ora, l’organo di vigilanza indipendente si prepara a investigare il Governo, in ciò che potrebbe presto diventare un caso studio per l’intera Europa.

La denuncia è stata pubblicata il 27 ottobre sul portale del gruppo attraverso un fitto report dal titolo inequivocabile: Discriminazione automatica: Svelare l’ostile ambiente digitale. Il documento descrive uno scenario fin troppo comune, ovvero quello di istituzioni che si identificano in valori democratici e che demandano ad algoritmi e intelligenze artificiali l’approvazione di assistenzialismi o, come in questo caso, la gestione dei flussi migratori, deumanizzando l’intera operazione e distanziando le istituzioni da eventuali sviste.

Quella di ORG, però, non è una contestazione puramente ideologica: è soprattutto di natura tecnica. Grazie ai documenti del ministero ottenuti con richieste di accesso agli atti (FOIA) e alle risposte a interrogazioni parlamentari, l’organizzazione ha ricostruito come l’IA sia ormai usata o sperimentata in molti passaggi: stima dell’età dei richiedenti asilo, sintesi dei colloqui e delle informazioni sui Paesi d’origine, definizione delle priorità tra i casi, analisi dei dati dei cellulari, individuazione di potenziali matrimoni fittizi, riconoscimento facciale in tempo reale al confine e ancora droni, satelliti e torrette automatizzate per la sorveglianza autonoma. 

Molte delle informazioni più sensibili, denuncia il gruppo, sono state oscurate: i funzionari invocano l’insormontabile scudo della “sicurezza nazionale” per respingere le richieste o svuotare di senso i documenti. Eppure, in ogni caso, è noto che gli strumenti di IA sono inaffidabili, soggetti alle cosiddette “allucinazioni” e inclini a perpetuare e amplificare le discriminazioni sistemiche già presenti in molte società. I primi dati non rassicurano: ACS e APS si basano su un modello di OpenAI (GPT-4o, secondo ORG) e, su 203 sintesi controllate da esperti del ministero dopo l’avvio di aprile, il 22% non ha superato il primo controllo, contro il 9% scartato nella fase pilota. Quanto ai guadagni di efficienza promessi dal governo, ORG rileva che da aprile 2026 il numero medio mensile di decisioni iniziali è calato di circa il 42% rispetto al 2025 e il tempo medio tra colloquio e decisione è salito del 29%, pur senza che i dati provino un nesso causale con l’IA.

Comprendere puntualmente la situazione è d’altronde complesso, visto che l’impostazione dell’intera gestione dei richiedenti asilo è tutt’altro che trasparente. Il governo replica che le decisioni finali restano in mano a funzionari addestrati e che l’IA li assiste soltanto nella consultazione dei verbali dei colloqui e delle informazioni sulle policy. ORG obietta però che l’ACS automatizza un lavoro prima svolto da specialisti tecnici, eliminando di fatto un livello di controllo esperto. Allo stesso tempo, il mondo accademico evidenzia ormai da decenni l’esistenza del pregiudizio di automazione, ovvero la tendenza degli esseri umani a dar peso al suggerimento di uno strumento automatico a scapito di informazioni contraddittorie raccolte in modo organico, anche quando queste sono corrette.

ORG ha dunque commissionato a studi legali un parere tecnico sui due degli strumenti d’asilo di cui si hanno maggiori informazioni. Secondo il riscontro fornito, l’uso delle due soluzioni non rispetta in aspetti significativi il cosiddetto UK AI Playbook, le linee guida del Governo sull’IA e che i richiedenti asilo non sono stati informati degli strumenti a cui vengono sottoposti, quindi non possono verificare né correggere le sintesi generate, mancanza che potrebbe rappresentare un illecito. Non risulta inoltre chiaro quali misure di controllo compensino il pregiudizio di automazione. Questi punti oscuri, segnala Wired, hanno attirato l’attenzione dell’Ispettore capo indipendente delle frontiere e dell’immigrazione (ICIBI), il quale ha chiesto a ORG ulteriori informazioni mentre definisce i temi delle ispezioni del prossimo anno. 

Il caso britannico rischia di segnare un punto di svolta: molti governi europei – Germania in primis – stanno valutando o implementando soluzioni simili, nonostante persino il Servizio di Ricerca del Parlamento Europeo (EPRS) metta in guardia sui rischi di inesattezze, discriminazioni, garanzie procedurali indebolite e violazioni della privacy. La tendenza non è che l’evoluzione di un’impostazione ormai datata, in cui le istituzioni cercano di accelerare i tempi della burocrazia affidando questioni delicate ad algoritmi e automatismi. Già dal 2016-2017, per esempio, l’Ufficio federale tedesco per la Migrazione e i Rifugiati (BAMF) ha avviato un programma digitale con strumenti automatici per verificare identità e provenienza dei richiedenti, come il riconoscimento del dialetto e la trascrizione automatica dei nomi. Il caso più clamoroso resta però quello dei Paesi Bassi, il cui governo si è dimesso nel gennaio 2021 per lo scandalo dei sussidi per l’infanzia: i sistemi per individuare le frodi avevano etichettato per errore più di 20.000 genitori come truffatori, colpendo in modo sproporzionato proprio quelle persone che avevano un background migratorio.

The post Lo scandalo sull’immigrazione britannica rivela i rischi dell’IA nella pubblica amministrazione appeared first on L'Indipendente.